Тем временем вышла вторая серия сериала "Anthropic против Пентагона" с исполнительным директором первого — Дарио Амодеем — в главной роли.

Глава компании выступил с официальным заявлением, подтвердив глубокую приверженность защите США, но обозначив две красные линии, которые Anthropic не перейдет даже под угрозой санкций.

Речь идет о категорическом отказе использовать Claude для массовой слежки за американскими гражданами внутри страны и для создания полностью автономного оружия, где решение об уничтожении цели принимает ИИ без участия человека.

Амодей подчеркнул, что современные модели искусственного интеллекта пока недостаточно надежны для военных задач и могут поставить под угрозу жизни самих военных и мирных жителей, принимая безрассудные или лишенные контекста решения.

Нужно отметить, что Anthropic остается одним из самых глубоко интегрированных партнеров Минобороны США: их модели уже работают в секретных сетях, национальных лабораториях и используются для киберопераций и анализа разведданных.

Компания даже пожертвовала сотнями миллионов долларов выручки, отрезав доступ к своим технологиям фирмам, связанным с компартией Китая.

Впрочем, несмотря на угрозы Пентагона признать Anthropic недоступной для участия в оборонных контрактах или принудительно изменить политику безопасности через закон об оборонном производстве, Амодей заявил, что компания не может пойти против совести и общечеловеческих ценностей.

Теперь ждем третью серию этого сериала — а именно реакцию и ответ Пентагона.

@yigal_levin