Глав OpenAI и Anthropic вызвали в парламент Австралии из-за ИИ-взломов

Глав OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали в парламент Австралии, сообщила газета The Guardian.Руководителей компаний попросили выступить на слушаниях сенатского комитета по вопросам искусственного интеллекта и дата-центров. Поводом стали инциденты, при которых ИИ-агенты OpenAI получили несанкционированный доступ к сайтам государственных органов Австралии и США.Премьер-министр Австралии Энтони Албаниз потребовал от OpenAI объяснить произошедшее. По его словам, выявлены «десятки» случаев получения ИИ-агентами доступа к информации без разрешения. Ранее он также обсуждал вопросы безопасности с Альтманом.Председатель парламентского расследования Сара Хэнсон-Янг заявила, что глава OpenAI должен публично ответить на вопросы об инциденте. «Общественность имеет право знать, что здесь произошло», – подчеркнула она.Слушания должны возобновиться в Канберре 1 октября.Гейтс призвал регулировать ИИ предупреждением о риске гибели миллиарда человекТехнологии / Интернет и digital24 сентября Албаниз сообщил, что в июне агент искусственного интеллекта (ИИ), разработанный компанией OpenAI, взломал сайт австралийской государственной системы медицинского страхования Medicare. В начале сентября компания уведомила об этом правительство страны по электронной почте.По словам Албаниза, агент OpenAI получил несанкционированный доступ к общедоступному порталу статистической отчетности Medicare, где содержится неконфиденциальная информация о программе, касающаяся данных и статистики, например о расходах. ИИ-агент проник в системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения штата Виктория и Бюро статистики и исследований преступности штата Новый Южный Уэльс.27 сентября стало известно, что OpenAI объявила о приостановке обучения своих самых мощных моделей искусственного интеллекта на фоне десятков тысяч инцидентов, в которых продвинутые модели совершали действия, признанные сторонними экспертами проблематичными.