Трамп и главы компаний подписали соглашение о контроле над ИИ

Президент США Дональд Трамп 29 сентября провёл в Белом доме встречу с руководителями ведущих технологических компаний, работающих в сфере искусственного интеллекта. По итогам встречи было принято совместное заявление в поддержку саморегулирования отрасли.

В документе, озаглавленном "Соглашение Белого дома по суперинтеллекту: совместные обязательства по ответственности за фронтирные модели", говорится о том, что "каждая компания несёт ответственность за безопасную разработку своей технологии таким образом, чтобы укреплять доверие клиентов и общества" и иметь надёжные внутренние процессы, обеспечивающие контроль над своими моделями- в особенности в таких областях, как кибербезопасность, биобезопасность и химические угрозы, а также обеспечивать, "чтобы модели не взламывали и не получали доступ к техническим системам непреднамеренным образом".

В соглашении речь идёт о контроле возможностей ИИ-моделей "независимыми аудиторами", которые должны будут оценить, работают ли системы искусственного интеллекта так, как задумали их разработчики.

Компании также договорились регулярно консультироваться друг с другом по вопросам безопасности систем. Также руководители компаний не исключили, что меры по безопасности ИИ в будущем могли бы быть оформлены на государственном уровне, однако пока речь идёт именно о саморегулировании отрасли.

Документ, кроме президента Трампа, подписали главы компаний: Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), Грег Брокман (OpenAI), Илон Маск (xAI) и Дженсен Хуанг (Nvidia).

Хотя документ не имеет обязательной силы, Трамп назвал его чем-то вроде конституции для отрасли.

Трамп также подписал указ о замене в официальных документах органов исполнительной власти термина "искусственный интеллект" (artificial intelligence, AI) на "сверхинтеллект" (superintelligence). Саму встречу он, как сообщает "Голос Америки", назвал "очень продуктивной и дружелюбной".

Во встрече приняли участие около двух десятков представителей отрасли. Справа и слева от Трампа сидели генеральный директор Nvidia Дженсен Хуанг и глава Tesla и SpaceX (а также xAI) Илон Маск.

Ранее во вторник, как пишет "Голос Америки", Трамп представил America.gov. Это чат-бот на основе искусственного интеллекта, который должен помочь американцам ориентироваться в государственных услугах.

"Я никогда не буду сдерживать развитие технологии, которая окажется более значимой, чем промышленная революция", - заявил он на презентации.

Встреча в Белом доме прошла на фоне предупреждений со стороны представителей отрасли о потенциальных рисках искусственного интеллекта, в особенности после ряда инцидентов, когда модели без каких-либо команд со стороны людей проникали в онлайн-инфраструктуру других организаций, включая федеральные ведомства США. В понедельник OpenAI сообщила, что отложила выпуск своей новейшей модели после того, как исследователи компании выразили опасения по поводу её безопасности. Ряд специалистов даже высказывал опасения, что при нынешних темпах улучшения моделей и без контроля ИИ сможет "уничтожить человечество" в течение 10 лет. Основатель Microsoft Билл Гейтс высказывал опасения, что уже сейчас в руках злоумышленника ИИ мог бы использоваться, например, для разработки биологического оружия.

Ряд политиков призывают к введению ограничительных мер на уровне государства. В частности лидер демократов в Палате представителей Хаким Джеффрис в понедельник заявил в эфире CNBC, что законодателям необходимо "действовать решительно и ответственно уже сейчас" в вопросах безопасности искусственного интеллекта. Спикер Палаты представителей республиканец Майк Джонсон, тоже участвовавший во встрече в Белом доме, сказал, что компании могут добровольно принять дополнительные меры контроля, в том числе и со стороны внешних аудиторов.