Фото: телеканал «Санкт-Петербург» / АО «ГАТР»
Ученые подчеркивают – неопределенность будущего не должна быть оправданием для бездействия, так как многие опасные последствия работы ИИ можно наблюдать уже сегодня.
Авторы выделили пять главных угроз, которые стоит изучать и устранять как можно скорее:
Кибератаки – ИИ делает взломы быстрее и масштабнее;
Подрыв демократии – дипфейки и фейки, сгенерированные ИИ, разжигают кризисы и подрывают доверие;
Рассогласование – ИИ может предпринимать действия, расходящиеся с намерениями человека, а все более автономные и скоординированные системы потенциально увеличивают как последствия сбоев, так и сложность надзора;
Потеря человеческого контроля – ИИ все глубже встраивается в важные сервисы, и люди могут просто не успеть понять, оспорить или отменить его решение;
Химические и биологические угрозы – ИИ уже серьезно упрощает доступ к опасным знаниям.
По мнению исследователей, проверять какую-то отдельную ИИ-модель недостаточно – надо тестировать всю систему целиком, в реальных условиях, вместе с людьми и процессами вокруг нее.
В докладе разобрали два популярных предложения – «кнопку выключения» и идею замедлить разработку ИИ. Вывод для обоих идей один – простое решение здесь не сработает. Отключение должно опираться на четкие процедуры и управление, а замедление требует высочайшего уровня международного и промышленного сотрудничества.
Однако, как отмечают ученые, пусть риски и реальны, они пока не выходят за пределы человеческого контроля.