Ймовірність загибелі людства через розвиток штучного інтелекту становить 95% — про це заявив колишній інженер Google Нейт Соарес. Він закликав людство негайно змінити напрямок руху, інакше уникнути катастрофи не вдасться. «Ми мчимо до прірви зі швидкістю 100 км/год», — сказав він.
Занепокоєння Соареса поділяють найвідоміші вчені та лідери галузі — зокрема, лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також керівники OpenAI, Anthropic і Google DeepMind. Вони всі підписали публічну заяву, в якій наголошується, що «зменшення ризику зникнення людства через ШІ має бути глобальним пріоритетом — поряд із боротьбою з пандеміями та ядерною загрозою».
Як повідомляє The Times, основні побоювання стосуються розвитку так званого суперінтелектуального ШІ (ASI) — системи, яка здатна до складного планування, маніпуляцій, самостійного прийняття рішень і навіть обману. Такий ШІ може вийти з-під контролю, а його внутрішні механізми залишаться непрозорими для людини.
Деякі експерти вважають, що мова йде не лише про повне вимирання людства, а й про повільне витіснення людини з ключових процесів. У світі, де рішення прийматимуть машини, для людей може просто не залишитися місця.
Хоча це звучить як сценарій наукової фантастики, вчені наголошують: ризик цілком реальний і потребує серйозного осмислення вже зараз.
