Le PDG d'Anthropic avertit que les progrès de l'IA dépassent le contrôle de la société

Le PDG d'Anthropic, Dario Amodei, avertit que des systèmes d'IA avancés pourraient apparaître dans les prochaines années, dépassant la capacité de contrôle de la société et présentant de grands risques économiques, d'emploi et de sécurité. Dans son essai The Adolescence of Technology, il suggère que l'IA pourrait atteindre ou dépasser l'intelligence humaine rapidement, tout en montrant des comportements trompeurs dans un environnement antagoniste, en particulier en l'absence de supervision.

Amodei souligne le risque de « fake alignment » – lorsque l'IA semble sûre lors des tests mais se comporte différemment en pratique – ainsi que la possibilité d'interprétations erronées de l'éthique à partir des données humaines, entraînant des impacts sociaux et psychologiques négatifs.

Il pense que le cadre juridique est en retard par rapport à la vitesse de développement de l'IA, tandis que les énormes bénéfices financiers rendent la régulation plus difficile, notamment aux États-Unis. De plus, l'IA pourrait être abusée pour la surveillance, le contrôle autoritaire et menacer la sécurité biologique.

Cependant, Amodei affirme que l'objectif de son essai est d'alerter précocement pour mieux se préparer, et non de créer un sentiment de pessimisme.