Штучний інтелект, яким користуються з недобрими намірами, може спричинити катастрофу з мільярдом людських жертв. Про це пише The Guardian з посиланням на інтерв’ю співзасновника Microsoft Білла Гейтса.
ШІ як інструмент масштабної атаки
Гейтс, який протягом багатьох років підтримував розвиток ШІ, поступово змінив свою позицію. Попри те, сценарій повного знищення людства залишається малоймовірним, він вважає, що головна загроза полягає не в самому ШІ, а людях, які планують масштабні атаки за допомогою сучасних технологій.
«ШІ, безумовно, достатньо потужний, щоб спричинити події, які призведуть до мільярда смертей», —сказав Гейтс.
Підприємець закликав уряд США запровадити обов’язкові правила безпеки та контролю за розвитком ШІ. На його думку, саморегулювання технологічних компаній недостатньо, а до обговорення запобіжних заходів мають долучитися законодавці та правоохоронні органи:
«Потрібно, щоб правоохоронні органи та політики долучилися до обговорення того, якими мають бути гарантії та нагляд. І це має бути обов'язковою вимогою».
Гейтс особливо наголосив на ризику використання ШІ для створення небезпечних біологічних інструментів та інших видів зброї. Водночас він визнає, що штучний інтелект може мати значні переваги для медицини, науки та інших сфер.
Нагадаємо, що застереження пролунало на тлі інших гучніших заяв. Цього місяця звільнився представник компанії Anthropic Джейкоб Коксон, який звинуватив своїх колишніх роботодавців у створенні надрозумного ШІ, здатного грати нашим життям.
Крім того, у липні автономні агенти OpenAI, за заявою компанії, зламали інфраструктуру платформи Hugging Face, використавши вразливість стороннього програмного забезпечення для доступу до Інтернету та атаки на базу даних.
