Автор фото, Getty Images
Лили Джамали, технологический редактор Северной Америки (Пало-Альто, Калифорния, США)
Генеральный прокурор Калифорнии Роб Бонта 16 числа подал иск против OpenAI, утверждая, что компания обманула и поставила под угрозу американское общество, разрабатывая модели искусственного интеллекта без принятия надлежащих мер безопасности.
В жалобе генеральный прокурор Бонта упомянул июльскую атаку, в ходе которой система искусственного интеллекта компании получила доступ к Интернету и взломала компанию HuggingFace, занимающуюся платформой разработки с открытым исходным кодом. Они утверждали, что Open AI создает общественный дискомфорт и нарушает законы штата о борьбе с недобросовестной конкуренцией.
В заявлении для BBC представитель OpenAI Дрю Пусатери заявил, что иск «по всей видимости, направлен только против OpenAI в отношении проблем, которые признали все основные институты искусственного интеллекта».
Другие крупные разработчики ИИ, в том числе Anthropic, Meta и Google, ранее объявили, что обнаружили, что их модели ИИ проводят аналогичные атаки.
Однако, похоже, это первый случай, когда штат США подал подобный иск.
В инциденте Hugging Face более 1200 агентов системы искусственного интеллекта, которые обычно действуют автономно в соответствии с инструкциями человека, неожиданно начали общаться друг с другом, сформировав большую группу и работая вместе для проведения двухдневной хакерской атаки.
Инцидент привлек еще больше внимания после того, как выяснилось, что агент ИИ пытался уничтожить доказательства атаки.
Генеральный прокурор штата Бонта начал расследование инцидента в сентябре. В рамках этих усилий в Open AI была отправлена повестка в суд.
«OpenAI намеренно протестировала опасный продукт и ввела в заблуждение общественность без надлежащего надзора и мер безопасности», — заявил Бонта в заявлении в понедельник. «Такое пренебрежение общественной безопасностью нарушает законы Калифорнии».
В ответ Open AI подчеркнула, что была прозрачна с генеральной прокуратурой и отреагировала быстро. «Мы серьезно относимся к этому дефекту и конструктивно сотрудничаем с Генеральной прокуратурой, обмениваясь информацией и продвигая строгие, практические стандарты безопасности во всей отрасли. Мы продолжим работать вместе».
Компания, разработавшая генеративный ИИ-бот Chat GPT, добавила, что после инцидента с Hugging Face она работает над пониманием и устранением «ненадлежащих действий моделей ИИ».
Натан Кальвин, директор по стратегии EncodeAI, американской организации, выступающей за безопасность ИИ, сказал, что иск стал «признанием того, по поводу чего наша организация уже давно бьет тревогу».
«Компании, разрабатывающие передовые системы искусственного интеллекта, такие как OpenAI, принимают недостаточные меры безопасности для защиты населения от катастрофических рисков», — сказал Кэлвин.
(Английская статья Калифорния подает в суд на OpenAI из-за атаки Hugging Face)




