Очень плохая неделя для одного из мировых лидеров ИИ — американской компании Anthropic, пишет телеграм-канал «Севжести».
«Хакер использовал ИИ Claude от Anthropic, чтобы взломать системы мексиканского правительства и украсть около 150 ГБ конфиденциальных данных, включая 195 миллионов записей о налогоплательщиках. Исследователи говорят, что злоумышленник „взломал“ чат-бота, чтобы обойти меры безопасности», — говорится в сообщении.
Ранее глава Anthropic Дарио Амодей провëл неудачную встречу с главой Пентагона Питом Хегсетом и теперь под вопросом военные контракты Anthropic, которые, как отмечает паблик, «готов перехватить» Илон Маск.
Хегсет потребовал от гендиректора Anthropic до 27 февраля согласовать условия ИИ-модели для использования военными, иначе расторгнет контракт, пишет The Wall Street Journal со ссылкой на источники. Хегсет настаивает, чтобы Anthropic разрешила военным использовать модели Claude «во всех законных случаях», чему компания сопротивляется. Речь идёт также о принятии решений о нанесении ударов системой ИИ без участия человека.
Издание уточняет, что Пентагон планирует использовать закон об оборонном производстве, чтобы заставит Anthropic сотрудничать. Также Пентагон может ввести санкции против компании, которые заставят бизнес в США разорвать с ней все связи, если он захочет продолжать работать с американским правительством.
Капитализация (инвестиционная оценка) Anthropic на начало февраля составляла около 400 миллиардов долларов.