Sopa Images | Fusée lumineuse | Getty Images
Elon Musk et des dizaines d’autres leaders technologiques ont appelé les laboratoires d’IA à suspendre le développement de systèmes capables de rivaliser avec l’intelligence humaine.
Dans une lettre ouverte du Future of Life Institute, signée par Musk, Pomme co-fondateur Steve Wozniak et candidat à la présidentielle 2020 Andrew Yang, les laboratoires d’IA ont été exhortés à cesser de former des modèles plus puissants que GPT-4, la dernière version du logiciel de modèle de grande langue développé par la startup américaine OpenAI.
“Les systèmes d’IA contemporains deviennent désormais compétitifs pour les humains dans les tâches générales, et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ?” la lettre lue.
« Devrions-nous automatiser tous les emplois, y compris ceux qui sont épanouissants ? Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?
La lettre ajoutait: “De telles décisions ne doivent pas être déléguées à des dirigeants technologiques non élus.”
Le Future of Life Institute est une organisation à but non lucratif basée à Cambridge, Massachusetts, qui milite pour le développement responsable et éthique de l’intelligence artificielle. Ses fondateurs incluent le cosmologiste du MIT Max Tegmark et le co-fondateur de Skype Jaan Tallinn.
L’institut a déjà fait promettre à des sociétés comme Musk et au laboratoire d’intelligence artificielle DeepMind appartenant à Google de ne jamais développer de systèmes d’armes autonomes meurtriers.
L’institut a déclaré qu’il appelait tous les laboratoires d’IA à “interrompre immédiatement pendant au moins 6 mois la formation de systèmes d’IA plus puissants que GPT-4”.
GPT-4, qui a été publié plus tôt ce mois-ci, est considéré comme beaucoup plus avancé que son prédécesseur GPT-3.
“Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire”, a-t-il ajouté.
ChatGPT, le chatbot viral d’IA, a stupéfié les chercheurs avec sa capacité à produire des réponses humaines aux invites de l’utilisateur. En janvier, ChatGPT avait amassé 100 millions d’utilisateurs actifs par mois seulement deux mois après son lancement, ce qui en fait l’application grand public à la croissance la plus rapide de l’histoire.
La technologie est formée sur d’énormes quantités de données provenant d’Internet et a été utilisée pour tout créer, de la poésie dans le style de William Shakespeare à la rédaction d’avis juridiques sur des affaires judiciaires.
Mais les éthiciens de l’IA ont également soulevé des inquiétudes quant aux abus potentiels de la technologie, tels que le plagiat et la désinformation.
Musk a précédemment déclaré qu’il pensait que l’IA représentait l’un des “plus grands risques” pour la civilisation.
Le PDG de Tesla et SpaceX est également l’un des co-fondateurs d’OpenAI, bien qu’il ait quitté le conseil d’administration d’OpenAI en 2018 et ne détient plus de participation dans l’entreprise.
Il a critiqué l’organisation à plusieurs reprises récemment, affirmant qu’il pensait qu’elle s’écartait de son objectif initial.
Les régulateurs se précipitent également pour maîtriser les outils d’IA, car la technologie progresse à un rythme rapide. Mercredi, le gouvernement britannique a publié un livre blanc sur l’IA, s’en remettant aux différents régulateurs pour superviser l’utilisation des outils d’IA dans leurs secteurs respectifs en appliquant les lois existantes.
Read more Tech News in French
Source
