По его словам, главная непосредственная опасность сегодня исходит не от машин, которые внезапно выйдут из-под контроля, а от людей, получивших благодаря ИИ возможности для кибератак, мошенничества и создания биологического оружия
Интервью Гейтса программе Meet the Press телеканала NBC News вышло 27 сентября
“Это сложнее, чем было тогда”, – сказал Гейтс, отвечая на вопрос, можно ли использовать опыт американо-советских соглашений по ядерным вооружениям как модель будущих договорённостей США и Китая по ИИ. Он объяснил принципиальное отличие: при контроле над ядерным оружием существуют физические материалы, доступ к которым можно отслеживать, а испытания можно обнаруживать. В случае ИИ такой очевидной системы проверки нет
Самую близкую угрозу Гейтс видит в резком снижении порога доступа к возможностям, которыми раньше располагали преимущественно государства. Небольшая группа людей с современными моделями может искать уязвимости в энергосетях, банковских системах и другой критической инфраструктуре или использовать ИИ при разработке биологических угроз
“Никто не считает, что саморегулирования достаточно”, – сказал Гейтс, призвав законодательно обязать разработчиков создавать системы безопасности и мониторинга
Гейтс отдельно предупредил, что потенциальный масштаб последствий трудно сравнить с предыдущими технологиями. “ИИ определённо достаточно мощный, чтобы запустить события, которые приведут к миллиарду смертей”, – заявил он
Речь шла не о прогнозе, что миллиард человек обязательно погибнет, а о возможном масштабе ущерба в случае использования мощных систем злоумышленниками
Одного механизма экстренного отключения системы, который в дискуссии об ИИ обычно называют kill switch, Гейтс считает недостаточным
“Недостаточно иметь аварийный выключатель”, – сказал он. По его словам, разработчики должны сохранять информацию о действиях модели и давать возможность понять, что именно происходило до опасного события. Иначе полиция и спецслужбы после атаки фактически не смогут восстановить действия системы и её пользователя
Гейтс не предлагает останавливать развитие ИИ. Он разделяет два вопроса – скорость создания новых моделей и обязательные системы контроля внутри них. Мониторинг, по его оценке, создаст для компаний дополнительные расходы, но не приведёт к серьёзному замедлению исследований. Выбор, по его словам, состоит в другом: внедрить такие механизмы до первой крупной кибер- или биоатаки или сделать это уже после неё
Это продолжение позиции, которую Гейтс подробно изложил в августе. Он писал, что ИИ уже позволяет людям с относительно небольшой технической подготовкой значительно легче искать программные уязвимости и может снизить барьеры для создания опасных патогенов
Среди потенциальных целей кибератак он называл больницы, финансовые учреждения, водоснабжение, электросети и государственные информационные системы
Для международного уровня Гейтс предлагает создать отдельную систему управления ИИ. По его замыслу, она должна совместить элементы режима инспекций в области ядерного оружия, международного регулирования авиации и соглашений по защите озонового слоя
Без сотрудничества США и Китая такая конструкция, по его словам, работать не сможет, а государства, где находятся крупнейшие разработчики ИИ и ключевые элементы технологической цепочки, должны начать согласовывать общие нормы уже сейчас
“Человечество находится в одной лодке”, – сформулировал Гейтс принцип, которым, по его мнению, должны руководствоваться США. Он напомнил, что Вашингтон после Второй мировой войны участвовал в создании международных правил в области авиационной безопасности, ядерных вооружений и защиты озонового слоя, и считает, что США должны попытаться сыграть аналогичную роль в регулировании ИИ