La probabilité de la mort de l'humanité due au développement de l'intelligence artificielle est de 95 % – a déclaré Nate Soares, ancien ingénieur de Google. Il a appelé l'humanité à changer immédiatement de cap, faute de quoi la catastrophe sera inévitable. « Nous fonçons vers l'abîme à une vitesse de 100 km/h », a-t-il déclaré.
Les inquiétudes de Soares sont partagées par d'éminents scientifiques et dirigeants d'entreprises, dont le lauréat du prix Nobel Geoffrey Hinton, le mathématicien Joshua Bengio et les dirigeants d'OpenAI, d'Anthropic et de Google DeepMind. Ils ont tous signé une déclaration publique soulignant que « la réduction du risque d'extinction humaine dû à l'IA devrait être une priorité mondiale, au même titre que la lutte contre les pandémies et la menace nucléaire ».
Selon le Times, les principales inquiétudes concernent le développement d'une IA dite superintelligente (IAS) – un système capable de planification complexe, de manipulation, de prise de décision autonome et même de tromperie. Une telle IA pourrait échapper à tout contrôle et ses mécanismes internes resteraient opaques aux humains.
Certains experts estiment que nous ne parlons pas seulement d'une extinction totale de l'humanité, mais aussi d'un lent déplacement des humains hors des processus clés. Dans un monde où les machines prendront des décisions, il se pourrait bien qu'il n'y ait plus de place pour les humains.
Même si cela ressemble à un scénario de science-fiction, les scientifiques soulignent que le risque est bien réel et nécessite une réflexion sérieuse dès maintenant.
