Le Projet Q* est une intelligence artificielle extrêmement avancée, secrètement développée par OpenAI. C’est à cause de ce projet potentiellement très dangereux que le CEO Sam Altman a été renvoyé temporairement par le conseil d’administration. Découvrez tout ce qu’il faut savoir sur cette IA, et pourquoi elle pourrait mener l’humanité à sa perte !
Suite à la crise interne qu’a traversée OpenAI pendant quelques jours, nous vous révélions hier la vraie raison qui a mené le conseil d’administration à renvoyer le CEO Sam Altman : une nouvelle IA potentiellement dangereuse pour l’humanité.
Cette avancée majeure a semé la discorde au sein de l’entreprise, et les employés les plus inquiets ont fait le choix d’écrire une lettre au conseil pour dénoncer cette menace.
L’existence de cette nouvelle IA avait d’ailleurs été confirmée à demi-mot par Sam Altman lui-même la semaine dernière, lors de son intervention au sommet Asia-Pacific Economic Cooperation (Apec) de San Francisco.
Selon ses propres mots sur la scène de l’événement : « pour la quatrième fois dans l’histoire d’OpeAI, il y a deux semaines, j’étais dans la pièce, quand nous avons repoussé en arrière le voile de l’ignorance et repoussé vers l’avant la frontière de la découverte, et faire cela est l’honneur professionnel de toute une vie ».
Tout savoir sur le projet Q* : le premier LLM capable de résoudre des maths
Alors de quoi s’agit-il exactement ? Ce modèle, dénommé « Q* » (à prononcer Q-Star), a prouvé sa capacité à résoudre des problèmes mathématiques qu’il n’avait jamais vu auparavant.
Il s’agit d’une grande première dans le domaine de l’IA, car les modèles de langage étaient jusqu’à présent doués pour générer du texte en prédisant le prochain mot, mais pas du tout pour les maths ou une seule bonne réponse est possible.
D’après Andrew Rogoyski de l’Institute for People-Centred AI (institut pour une IA centré sur les gens) de l’Université de Surrey, un Large Modèle de Langage (LLM) capable de résoudre des problèmes de maths serait bel et bien une formidable percée.
Comme il l’explique : « la capacité intrinsèque des LLM à effectuer des maths est un grand pas en avant, permettant aux IA d’offrir toute une nouvelle gamme de capacités analytiques ».
Faut-il arrêter l’IA avant qu’il ne soit trop tard ?
Selon le site The Information, la vitesse de développement de ce système a également alarmé les chercheurs en sécurité.
Beaucoup d’experts redoutent en effet que les entreprises comme OpenAI avancent trop vite vers la création d’une AGI (intelligence artificielle générale).
C’est l’une des raisons pour lesquelles Elon Musk et des milliers d’experts avaient appelé à mettre en pause le développement de l’IA pendant au moins 6 mois, en signant la lettre ouverte du Future of Life Institute en mars 2023.
Pour rappel, ce terme d’AGI désigne un système capable d’effectuer une large variété de tâches avec un niveau d’intelligence comparable à celle de l’humain. En théorie, cela pourrait lui permettre d’échapper à tout contrôle humain.
En maîtrisant les mathématiques, l’intelligence artificielle se rapproche inexorablement de l’intelligence humaine. Elle pourrait alors décider de ne plus nous obéir, voire même de se rebeller contre nous…
Q* : c'est quoi, cette nouvelle IA surhumaine qui terrifie OpenAI ? - Lebigdata.fr
Read More
No comments:
Post a Comment