Искусственный интеллект, используемый со злыми намерениями, может привести к катастрофе с миллиардом человеческих жертв. Об этом пишет The Guardian со ссылкой на интервью сооснователя Microsoft Билла Гейтса.
ИИ как инструмент масштабной атаки
Гейтс, который на протяжении многих лет поддерживал развитие ИИ, постепенно изменил свою позицию. Тем не менее, сценарий полного уничтожения человечества остаётся маловероятным, он считает, что главная угроза заключается не в самом ИИ, а в людях, которые планируют масштабные атаки с помощью современных технологий.
«ИИ, безусловно, достаточно мощен, чтобы вызвать события, которые приведут к миллиарду смертей», — сказал Гейтс.
Предприниматель призвал правительство США ввести обязательные правила безопасности и контроля за развитием ИИ. По его мнению, саморегулирование технологических компаний недостаточно, а к обсуждению мер предосторожности должны присоединиться законодатели и правоохранительные органы:
«Необходимо, чтобы правоохранительные органы и политики присоединились к обсуждению того, какими должны быть гарантии и надзор. И это должно быть обязательным требованием».
Гейтс особо подчеркнул риск использования ИИ для создания опасных биологических инструментов и других видов оружия. В то же время он признаёт, что искусственный интеллект может иметь значительные преимущества для медицины, науки и других сфер.
Напомним, что предостережение прозвучало на фоне других громких заявлений. В этом месяце уволился представитель компании Anthropic Джейкоб Коксон, который обвинил своих бывших работодателей в создании сверхразумного ИИ, способного играть нашими жизнями.
Кроме того, в июле автономные агенты OpenAI, по заявлению компании, взломали инфраструктуру платформы Hugging Face, использовав уязвимость стороннего программного обеспечения для доступа к интернету и атаки на базу данных.
