L’enquête d’experts 2023 sur les progrès de l’IA est
-
Le temps nécessaire pour atteindre les jalons les plus précis a diminué, parfois considérablement. Les chercheurs en IA devraient être entièrement automatisables professionnellement un quart de siècle plus tôt qu’en 2022, et les romans à succès du New York Times ont chuté de plus de moitié jusqu’en 2030. D’ici cinq ans, des systèmes d’IA devraient être réalisables, capables de créer entièrement un site de traitement des paiements à partir de zéro, ou de générer entièrement une nouvelle chanson qui ressemble, par exemple, à Taylor Swift, ou de télécharger et d’affiner de manière autonome un grand modèle de langage.
(Fig. 2) -
Les répondants médians accordent 5 % ou plus à l’IA avancée conduisant à l’extinction humaine ou similaire, et un tiers à la moitié des participants donnent 10 % ou plus. Cela reposait sur quatre questions, une sur la valeur globale du futur et trois plus directement sur l’extinction.
-
De nombreux participants ont estimé que de nombreux scénarios méritaient de susciter de vives inquiétudes au cours des 30 prochaines années. Pour chacun des onze scénarios et « autres » sur lesquels nous avons posé des questions, au moins un tiers des participants le considéraient comme méritant une préoccupation importante ou extrême.
-
Il existe peu d’optimistes ou de pessimistes confiants à l’égard de l’IA avancée : de grands espoirs et de graves inquiétudes se côtoient généralement. 68 % des participants pensaient que le HLMI était plus susceptible de conduire à de bons résultats que de mauvais, mais près de la moitié de ces personnes mettaient au moins 5 % sur des résultats extrêmement mauvais tels que l’extinction humaine, et 59 % des pessimistes nets donnaient 5 % ou plus à des résultats extrêmement bons.
-
70 % des participants souhaiteraient que la recherche visant à minimiser les risques des systèmes d’IA soit davantage prioritaire. Cela ressemble beaucoup à 2022, et au cours des deux années, un tiers des participants ont demandé « beaucoup plus », soit plus du double depuis 2016.
Si cela vous a plu, le papier couvre de nombreuses autres questions, ainsi que plus de détails sur ce qui précède. Qu’est-ce qui fait progresser l’IA ? L’avez-vous accéléré ? Serait-ce mieux si c’était plus lent ou plus rapide ? À quoi ressembleront les systèmes d’IA en 2043 ? Pourra-t-on connaître les raisons de ses choix avant cette date ? Les gens du monde universitaire et de l’industrie ont-ils des points de vue différents ? Les inquiétudes concernant l’IA sont-elles dues à des malentendus à l’égard de la recherche sur l’IA ? Les personnes ayant terminé leurs études de premier cycle en Asie courent-elles plus de risques d’extinction à cause de l’IA que celles qui ont étudié en Amérique ? Le « problème d’alignement » vaut-il la peine d’être résolu ?