Une intelligence artificielle pourrait dominer l’humanité
C’est ce que redoute un Québécois à l’emploi d’OpenAI, les créateurs de ChatGPT
« MA PEUR, C’EST QUE L’HUMANITÉ PERDE TOTALEMENT LE CONTRÔLE PARCE QUE L’ON CRÉE DES ÊTRES PLUS PUISSANTS QUE NOUS. »
– Mati Roy, responsable stratégique pour OpenAI
« Ma peur, c’est que l’humanité perde totalement le contrôle parce que l’on crée des êtres plus puissants que nous », confie au Journal le Québécois Mati Roy, qui occupe un poste-clé chez la californienne OpenAI, qui a développé le robot conversationnel ChatGPT.
« Comme l’énergie nucléaire peut être utilisée pour le bien ou le mal, il y a des risques d’accident avec l’intelligence artificielle de créer un être extrêmement puissant sans l’aligner avec nos valeurs. Ça pourrait être extrêmement dangereux pour l’humanité », souffle d’un ton posé au bout du fil l’homme dans la trentaine originaire de Longueuil.
C’est après ses études en génie physique à l’Université Laval que Mati Roy s’est intéressé aux impacts de l’intelligence artificielle (IA). Il a vite gravi les échelons pour intégrer l’équipe d’élite d’OpenAI, qui peaufine l’outil ultraperformant ChatGPT.
Depuis deux ans, il est l’un des responsables stratégiques du programme technique d’OpenAI, une entreprise cofondée par Sam Altman et Elon Musk, dont la valeur avoisinerait les 108 milliards $ (80 G$ US), selon le New York Times.
« Je supervise des personnes qui prétendent être ChatGPT pour voir comment ChatGPT devrait apprendre. Mon travail est de s’assurer que ces données-là soient de haute qualité », explique-t-il.
« On veut déterminer le comportement idéal de ChatGPT », poursuit l’homme, qui habite dans l’État de Géorgie, dans le sud des États-Unis.
COMBAT ENTRE LE BIEN ET LE MAL
Il y a un an, l’expert québécois en intelligence artificielle, Yoshua Bengio, avait dit craindre une dérive autoritaire si l’on n’encadre pas d’urgence l’IA.
« Ça prend juste une élection et que l’on élise un dictateur qui prend tous les outils et le contrôle », avait-il prévenu.
Quelques mois plus tard, Yoshua Bengio était allé jusqu’à fait part de ses inquiétudes en sous-comité au Sénat américain à Washington.
Au début du mois, le Conseil de l’innovation du Québec (CIQ) a pressé le gouvernement Legault de moderniser les lois du travail pour éviter que les avancées de l’intelligence artificielle ne viennent frapper de plein fouet le marché de l’emploi.
Quand on interroge Mati Roy sur les risques liés à l’intelligence artificielle, il tient un discours critique semblable à celui du professeur Yoshua Bengio, mais il s’empresse également de souligner que l’IA bien dirigée avec de bonnes valeurs pourrait faire évoluer l’humanité dans la bonne voie.
Certes, la création de plusieurs intelligences artificielles plus puissantes que l’être humain « est très dangereuse pour la survie de l’humanité », martèle-t-il.
TOUT DE MÊME UN FANTASTIQUE OUTIL
Il est cependant convaincu que si nous arrivons à inculquer des valeurs à la machine pour éviter notre anéantissement, l’humanité fera un bond de géant en avant.
« J’aimerais que les gens puissent vivre aussi longtemps qu’ils le veulent », affirme le gestionnaire.
« Quand on créera des êtres plus intelligents que nous, la technologie évoluera très rapidement. Les problèmes comme le cancer deviendront faciles [à régler] », conclut-il.