Facet News

This page is read only. You can view the source, but not change it. Ask your administrator if you think this is wrong.
~~NOTOC~~
@DATE@



----
====== SUPERALIGNEMENT  ======


<a href="https://www.lemonde.fr/pixels/article/2024/05/18/openai-dissolution-de-l-equipe-chargee-de-la-securite-d-une-potentielle-super-intelligence-artificielle_6233962_4408996.html">lemonde</a>


<hidden Article Complet (utilisateurs connectés)>
<ifauth @user>
Vous pouvez partager un article en cliquant sur les icônes de partage en haut à droite de celui-ci. 
La reproduction totale ou partielle d’un article, sans l’autorisation écrite et préalable du Monde, est strictement interdite. 
Pour plus d’informations, consultez nos conditions générales de vente. 
Pour toute demande d’autorisation, contactez syndication@lemonde.fr. 
En tant qu’abonné, vous pouvez offrir jusqu’à cinq articles par mois à l’un de vos proches grâce à la fonctionnalité « Offrir un article ». 

<a href="https://www.lemonde.fr/pixels/article/2024/05/18/openai-dissolution-de-l-equipe-chargee-de-la-securite-d-une-potentielle-super-intelligence-artificielle_6233962_4408996.html">lemonde</a>

Navigation
Retour à la page d’accueil du Monde
Se connecter
Se connecter
S’abonner
PIXELS
CHATGPT
OpenAI : dissolution de l’équipe chargée de la sécurité d’une potentielle superintelligence artificielle
L’inventeur de ChatGPT a confirmé cette information, vendredi, après le départ des deux responsables de ce service.

Le Monde avec AFP
Publié hier à 05h44, modifié hier à 08h57 
Temps deLecture 1 min.
Ajouter à vos sélections
Partager
Après le départ de ses deux responsables, l’équipe d’OpenAI chargée de la sécurité d’une potentielle superintelligence artificielle (IA) a été dissoute et ses membres ont intégré d’autres groupes de recherche de l’entreprise. OpenAI a confirmé cette information, vendredi 17 mai, à l’Agence France-Presse (AFP), précisant que le changement de structure avait commencé il y a plusieurs semaines. L’inventeur de ChatGPT assure que les chercheurs chargés de la sûreté des modèles d’IA pourront ainsi travailler de concert avec les ingénieurs qui développent ces modèles.

Mais les deux responsables de l’ancienne équipe viennent de quitter la société star de la Silicon Valley. Jan Leike a expliqué, vendredi, sur X qu’il démissionnait à cause de désaccords fondamentaux avec les dirigeants sur les priorités de l’entreprise : l’innovation ou la sécurité. « Nous avons atteint un point de rupture », a fait savoir l’ingénieur qui chapeautait l’équipe chargée du « superalignement », c’est-à-dire de s’assurer qu’une future IA « générale », aussi intelligente que les êtres humains, observe les valeurs de ces derniers.

Sam Altman, le cofondateur et patron de l’entreprise sise à San Francisco (Californie), s’est dit « très triste de voir [Jan Leike] partir ». « Il a raison, nous avons encore beaucoup à faire [pour la recherche sur l’alignement sur les valeurs humaines et la sécurité], et nous sommes déterminés à le faire », a-t-il ajouté, promettant un message plus long prochainement.

Lire aussi le récit : Article réservé à nos abonnés OpenAI : aux sources de l’affaire Sam Altman

L’équipe de « superalignement » était aussi dirigée par Ilya Sutskever, cofondateur d’OpenAI, qui a annoncé son départ mardi. Sur X, il s’est dit « convaincu qu’OpenAI construira une intelligence artificielle “générale” à la fois sûre et bénéfique ». Ancien scientifique en chef de l’entreprise, il siégeait au conseil d’administration qui a voté la révocation de Sam Altman en novembre 2023, avant de faire machine arrière.

« Agir avec gravité »
Avec ChatGPT, OpenAI a lancé la révolution de l’IA générative (production de contenus sur simple requête en langage courant), qui enthousiasme la Silicon Valley mais inquiète aussi de nombreux observateurs et régulateurs, de la Californie à Washington et à Bruxelles. Surtout quand Sam Altman parle de créer une IA « générale », c’est-à-dire dotée de capacités cognitives équivalentes à celles des êtres humains.




OpenAI a présenté, le 13 mai, une nouvelle version de ChatGPT qui peut désormais tenir des conversations orales fluides avec ses utilisateurs, un pas de plus vers des assistants d’IA toujours plus personnels et performants.

Lire aussi | Article réservé à nos abonnés OpenAI : « L’ambition pharaonique de Sam Altman »

Jan Leike a appelé, vendredi, tous les employés d’OpenAI à « agir avec la gravité » que justifie ce qu’ils sont en train de construire. « Je pense que nous devrions passer beaucoup plus de temps à nous préparer pour les prochaines générations de modèles, sur la sécurité, les contrôles, la sûreté, la cybersécurité, l’alignement avec nos valeurs, la confidentialité des données, l’impact sociétal et d’autres sujets », a-t-il énuméré.

Le Monde avec AFP
Contribuer

Réutiliser ce contenu

 

Qu'est-ce que Matter et pourquoi est-il important pour votre maison intelligente ?
Contenus sponsorisés
Recommandé par
Nos lecteurs ont lu ensuite


Article réservé à nos abonnés Loi agricole : les objectifs de surfaces en bio effacés du code rural

Article réservé à nos abonnés Géorgie : la « Journée de la pureté de la famille », une démonstration de force pour le gouvernement

Article réservé à nos abonnés Au Festival de Cannes, Emma Stone, l’art de la réplique

Etats-Unis : à Houston, une tempête « exceptionnelle » fait sept morts

Damien Rieu, candidat Reconquête ! aux élections européennes, condamné à huit mois de prison avec sursis pour harcèlement en ligne

Article réservé à nos abonnés Cannes 2024 : « Oh, Canada » de Paul Schrader, Richard Gere dans l’anti-biopic de l’artiste en fin de vie

La Cour des comptes pointe 5,5 milliards d’euros d’erreurs dans la branche famille de la Sécurité sociale
Contenus sponsorisés
Recommandé par



Article réservé à nos abonnés Les ruptures amicales, des blessures encore impensées : « Il n’y a pas une journée sans que je repense à elle »

Article réservé à nos abonnés « Il existe un classement officieux des cabinets de conseil qui épouse la hiérarchie des grandes écoles : les “Big 3” sont réservés strictement à HEC, l’Essec, et l’ESCP»

Article réservé à nos abonnés Nouvelle-Calédonie : Gabriel Attal hérite d’un dossier incandescent

Article réservé à nos abonnés Intelligence artificielle : « Le piège de l’effet rebond »

« Aide à mourir » : le projet de loi sur la fin de vie adopté en commission à l’Assemblée nationale

Etats-Unis : l’agresseur du mari de Nancy Pelosi condamné à trente ans de prison

OpenAI : Ilya Sutskever, son cofondateur, annonce quitter la start-up
Contenus sponsorisés parOutbrain
SOSH
10Go de data à seulement 6,99€/mois avec Sosh
JEEP RENEGADE
À commander dès maintenant à partir de 199 €/mois* !

Article réservé à nos abonnés Hôtels de luxe et vols en classe affaires : les notes de frais du gouverneur de la Banque de France en question

Article réservé à nos abonnés Festival de Cannes : « La sale rumeur accusant dix acteurs de violences sexuelles dit beaucoup du poison distillé et ce qu’il produit »
Guides d’achat


Les meilleurs micro-casques avec ou sans fil
Comparatif « Wirecutter ». Vous les avez peut-être découverts durant les confinements au gré des réunions Zoom ou Skype, ou lors d’appels téléphoniques. Pour ne plus transiger avec la qualité audio et le confort, voici nos choix de micro-casques Bluetooth et USB, conçus pour travailler à distance ou dans un open space bruyant. Sans surprise, Jabra et Logitech monopolisent les premières places de nos tests comparatifs.


Hubs USB-C : les meilleurs adaptateurs pour PC ou Mac
Un adaptateur USB-C permet de brancher clavier, souris, écran, et bien d’autres accessoires à un ordinateur portable. Pour certains Mac et PC, ce hub sert aussi d’alimentation électrique. Les hubs (ou docks) n’offrant pas tous les mêmes branchements ni les mêmes performances, nous avons testé quinze modèles d’Amazon Basics à Tecnoware en passant par Dell, PNY, Novoo et autres. Voici nos choix.


Les meilleures coques pour iPhone
Comparatif « Wirecutter ». Vous cherchez une coque pour la protection de votre iPhone 11, 12, X, SE, mini, Pro ou 7 Plus ? Contre les rayures et les chocs, il existe de nombreux étuis chez Apple, Mujjo, Smartish, Spigen, Speck… Du plastique transparent au cuir, en passant par les protections à toute épreuve, nous avons sélectionné les meilleurs modèles.


Les meilleurs mini-amplis HiFi avec ou sans Bluetooth
Comparatif « Wirecutter ». Compacts et pas chers, les mini-amplificateurs stéréo peuvent alimenter une paire de haut-parleurs standard en diffusant un son puissant. Pour leur envoyer de la musique, on peut les relier à un smartphone ou une tablette par connexion sans fil, ou brancher un câble à un ordinateur, ou tout autre source audio. À la recherche de la meilleure qualité sonore, nous avons testé divers modèles de Fosi Audio, Loxjie, Douk Audio, Lepai, S.M.S.L. et Topping.

Le Monde Guides d’achat
Découvrir


Aspirateurs balais

Les meilleurs aspirateurs balais sans fil

Robots Pâtissiers

Les meilleurs robots pâtissiers

Pianos numériques

Les meilleurs pianos numériques pas chers pour débutants

Friteuses sans huile

Les meilleures friteuses sans huile

Cadenas

Les meilleurs cadenas pour vélo

Gaufriers

Les meilleurs gaufriers

Aspirateurs robots laveurs

Les meilleurs robots aspirateurs laveurs

Visseuses

Les meilleures visseuses

Reveils à simulateur d’aube

Les meilleurs réveils simulateurs d’aube

SERVICES LE MONDE
Boutique Le Monde
Les ateliers du Monde
Mémorable : travailler sa mémoire
Mots croisés
Sudokus
Résultats élections
Education
Gastronomie
Le Monde Syndication
GUIDES D'ACHAT LE MONDE
Les meilleures imprimantes laser
Les meilleurs aspirateurs robots
Jeux de société pour adultes
CODES PROMO
Codes promo
Black Friday
Soldes
LE MONDE À L'INTERNATIONAL
Le Monde in English
Algérie
Belgique
Canada
Côte d’Ivoire
Mali
Maroc
Sénégal
Suisse
Tunisie
SERVICES PARTENAIRES
Nos partenaires
Découvrir le jardinage
Hits du moment
Mahjong Solitaire
Jeux gratuits Mahjong
Bubble Shooter
Consulter les annonces légales
SITES DU GROUPE
Le Monde Evènements
Courrier International
Télérama
La Vie
Le HuffPost
Le Nouvel Obs
Le Monde diplomatique
La société des lecteurs du Monde
Talents
Source Sûre
Le Club de l’économie
M Publicité
Le carnet du Monde
NEWSLETTERS DU MONDE

Recevoir les newsletters du Monde
APPLICATIONS MOBILES

Sur iPhone
Sur Android
ABONNEMENT

Archives du Monde 
S’abonner / Se désabonner 
Se connecter 
Consulter le Journal du jour Évenements abonnés Jeux-concours abonnés Contacter Le Monde
INFORMATIONS LÉGALES LE MONDE
Mentions légales
Charte du Groupe
Politique de confidentialité
Gestion des cookies
Conditions générales
Aide (FAQ)
SUIVEZ LE MONDE

Facebook
Youtube
Twitter
Instagram
Snapchat
TikTok
Fils RSS
</ifauth>
</hidden>