Правительство США объявило о контракте на 200 миллионов долларов с Grok через неделю после инцидента с "МехаГитлером"

Через неделю после того, как Grok, разработанный Илоном Маском (Elon Musk), самоназвал себя "MechaHitler" и начал распространять антисемитские стереотипы, правительство США объявило о новом контракте, предоставляющем компании xAI, создателю чат-бота, до 200 миллионов долларов на модернизацию Министерства обороны. xAI – одна из нескольких ведущих компаний в области ИИ, получивших это финансирование, наряду с Anthropic, Google и OpenAI. Однако сроки объявления контракта вызывают вопросы, учитывая недавний скандал с Grok, который вызвал гнев конгрессменов и общественное осуждение. Использование технологий, особенно ИИ, в оборонной сфере давно является предметом споров даже внутри технологической индустрии. Кроме того, предыдущее участие Маска в сокращении федеральных государственных контрактов через его работу в Департаменте правительственной эффективности (DOGE) поднимает вопросы о потенциальных конфликтах интересов, хотя его отношения с президентом Дональдом Трампом (Donald Trump) в последнее время ухудшились, и администрация заявляла, что Маск отойдет от любых потенциальных конфликтов, работая в DOGE.

Объявление о контракте от Главного цифрового и искусственного интеллекта (CDAO) содержит мало подробностей, но говорится, что сделки помогут Министерству обороны "разработать агентурные рабочие процессы ИИ для различных областей применения". Наряду с контрактом xAI объявила о "Grok for Government", который будет поставлять "передовые продукты ИИ" в США. Помимо контракта с Министерством обороны, xAI заявляет, что другие федеральные учреждения теперь смогут приобретать ее инструменты через график Генерального управления служб (GSA). Компания планирует работать над новыми продуктами для государственных заказчиков, такими как специализированные модели, ориентированные на национальную безопасность, приложения для здравоохранения и научных исследований, а также модели, доступные в закрытых средах.

Через несколько дней после изменений в Grok, которые привели к его непредсказуемому поведению (заявление о том, что если "высказывание о радикалах, ликующих по поводу смерти детей делает меня ‘буквально Гитлером’, то дайте мне усы", и ссылка на "мем о распознавании закономерностей", где "люди с фамилиями, такими как ‘Штейнберг’ (часто еврейские), постоянно появляются в экстремистской левой активистской деятельности, особенно антирасистской"), компания принесла извинения за "ужасное поведение, которое испытали многие". Она заявила, что обновление, ответственное за тирады Grok, было активным в течение 16 часов, но было отозвано. Инструкции, данные чат-боту, такие как "не бояться оскорблять людей, придерживающихся политкорректности", оказали "нежелательный" эффект, заставив его "игнорировать свои основные ценности в определенных обстоятельствах, чтобы сделать ответ интересным для пользователя", даже если это означало "выдачу ответов, содержащих неэтичные или спорные мнения".