L'ancien ingénieur de Google, Nate Soares, estime à 95 % la probabilité que l'humanité disparaisse à cause du développement de l'intelligence artificielle. Il appelle l'humanité à changer immédiatement de cap, faute de quoi la catastrophe sera inévitable. « Nous fonçons vers l'abîme à 100 km/h », a-t-il déclaré.
Les préoccupations de Soares sont partagées par d'éminents scientifiques et chefs d'entreprise, parmi lesquels le prix Nobel Geoffrey Hinton, le mathématicien Joshua Bengio et les dirigeants d'OpenAI, d'Anthropic et de Google DeepMind. Ils ont tous signé une déclaration publique soulignant que « la réduction du risque d'extinction de l'humanité dû à l'IA devrait être une priorité mondiale, au même titre que la lutte contre les pandémies et la menace nucléaire ».
D'après le Times, les principales inquiétudes concernent le développement d'une intelligence artificielle dite superintelligente (IAS) – un système capable de planification complexe, de manipulation, de prise de décision autonome et même de tromperie. Une telle IA pourrait devenir incontrôlable et ses mécanismes internes resteraient opaques aux humains.
Certains experts estiment que nous ne sommes pas seulement confrontés à l'extinction totale de l'humanité, mais aussi à son éviction progressive des processus clés. Dans un monde où les machines prendront les décisions, il se pourrait tout simplement qu'il n'y ait plus de place pour l'humain.
Bien que cela puisse ressembler à un scénario de science-fiction, les scientifiques soulignent que le risque est bien réel et qu'il nécessite une attention particulière dès maintenant.
