Вероятность гибели человечества из-за развития искусственного интеллекта составляет 95% – об этом заявил бывший инженер Google Нейт Соарес. Он призвал человечество немедленно изменить направление движения, иначе избежать крушения не удастся. «Мы несемся в пропасть со скоростью 100 км/ч», — сказал он.
Беспокойство Соареса разделяют известные ученые и лидеры отрасли — в частности, лауреат Нобелевской премии Джеффри Гинтон, математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали публичное заявление, в котором отмечается, что «уменьшение риска исчезновения человечества через ИИ должно быть глобальным приоритетом — наряду с борьбой с пандемиями и ядерной угрозой».
Как сообщает The Times, основные опасения касаются развития так называемого суперинтеллектуального ИИ (ASI) — системы, способной к сложному планированию, манипуляциям, самостоятельному принятию решений и даже обману. Такой ИИ может выйти из-под контроля, а его внутренние механизмы останутся непрозрачными для человека.
Некоторые эксперты считают, что речь идет не только о полном вымирании человечества, но и о медленном вытеснении человека из ключевых процессов. В мире, где решения будут принимать машины, может просто не остаться места для людей.
Хотя это звучит как сценарий научной фантастики, ученые отмечают: риск вполне реален и нуждается в серьезном осмыслении уже сейчас.
