Администрация Байдена убедила семь крупнейших компаний-разработчиков в области искусственного интеллекта присоединиться к соглашению по управлению рисками в этой деятельности. Одним из первых плодов договоренности станет создание меток, позволяющих определить, что информация создана не человеком. Такое заявление опубликовано на сайте Белого дома.
Фото: Twitter
Как говорится в документе, представители Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI договорились об управлении рисками, связанными с распространением технологий ИИ. Прежде всего, в сфере информационной безопасности.
Первые опыты использования чат-ботов для создания контента показали, что мир может вскоре буквально захлебнуться в волнах фейковой информации. Причем настолько правдоподобно составленной, что ее очень сложно проверить.
Поэтому одной из основных мер соглашения разработчиков станет создание технологии водяных знаков, которые позволили бы отделить информацию, созданную ИИ, от контента, генерируемого людьми.
Читайте также:
Дэн Браун и Маргарет Этвуд. 8 тыс. писателей выступили против обучения ИИ на их книгах
Кроме того, компании берут на себя изучение рисков, связанных с дискриминацией из-за внедрения ИИ и вторжением этой технологии в частную жизнь.
Разработчики также будут коммуницировать между собой в сфере тестирования безопасности систем искусственного интеллекта перед их выпуском на рынок.
OL сообщал о том, что корпорация Google начала
тестирование ИИ-алгоритма для написания новостей.
