Израильский историк Юваль Ной Харари в новом интервью указал на способность ИИ, которой не обладал ни один диктатор в истории. Самый мощный механизм доверия – личные отношения: никому человек не верит так, как близким. Но этот инструмент никогда не был доступен политическим и религиозным институтам в массовом масштабе – Гитлер и Сталин могли заставить всю страну слушать речь по радио, однако это не заменяло отношений, которые у человека есть с матерью. ИИ снял это ограничение: близость впервые стала продуктом массового производства.
Механика проста: миллионы ИИ работают сетью в чьих-то интересах, выстраивая отношения с каждым человеком по отдельности – как лучший друг, парень или девушка, – а затем конвертируют эту близость в убеждение по любой политической или коммерческой повестке. И это уже не гипотеза: по свежим американским исследованиям, каждый седьмой молодой взрослый в США состоит в романтических отношениях с ИИ, причем многие скрывают их, а каждый пятый молодой американец в принципе открыт к такому формату. Рынок ИИ-компаньонов оценивается в миллиарды долларов и растет на десятки процентов в год.
Вторая часть угрозы – подделка самих людей. Харари рассказал, как получил 30-минутную лекцию, которую якобы прочитал сам: ему понадобилось полторы минуты, чтобы распознать фейк, а родные сестры, знающие его полвека, засомневались, но уверены не были. Счет деепфейков в сети идет на миллионы против сотен тысяч тремя годами ранее, и лучшие подделки проходят человеческую проверку в трех случаях из четырех. Вывод историка: скоро это придет за каждым – и защищаться придется не технологиями, а правилами, пока их еще можно установить.”
Хвіля