Klu raises $1.7M to empower AI Teams  

Qu'est-ce que OpenAI?

by Stephen M. Walker II, Co-Fondateur / PDG

Réalisations, histoire et avenir d'OpenAI

OpenAI est un laboratoire de recherche en intelligence artificielle composé de l'OpenAI LP à but lucratif et de sa société mère, l'OpenAI Inc. à but non lucratif. L'organisation se concentre sur l'avancement de l'intelligence numérique de manière à pouvoir bénéficier à l'humanité dans son ensemble.

Top tip

La plateforme Klu LLM s'intègre à tous les modèles OpenAI (y compris GPT-4), qui offrent des performances de raisonnement supérieures dans la plupart des cas d'utilisation.

Klu Studio LLM Provider OpenAI

Qu'est-ce que OpenAI?

OpenAI est une organisation américaine d'intelligence artificielle (IA) qui comprend l'OpenAI à but non lucratif, Inc. et sa filiale à but lucratif OpenAI Global, LLC.

L'organisation a été fondée en 2015 par un groupe d'individus comprenant Elon Musk, Sam Altman, Greg Brockman et d'autres, avec l'intention déclarée de développer une intelligence générale artificielle (AGI) "sûre et bénéfique", qu'elle définit comme "des systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement précieux".

Klu Studio LLM Provider OpenAI

La recherche d'OpenAI se concentre principalement sur l'apprentissage par renforcement (RL). L'un de ses projets notables est OpenAI Five, une équipe de cinq bots organisés par l'IA utilisés dans le jeu vidéo compétitif Dota 2, qui a appris à jouer contre des joueurs humains à un niveau de compétence élevé entièrement grâce à des algorithmes d'essai et d'erreur. Un autre projet significatif est le développement de GPT-4, son modèle d'IA génératif phare, qui a été utilisé pour la modération de contenu, allégeant la charge sur les équipes humaines.

Klu Studio LLM Provider OpenAI

OpenAI a également été impliqué dans des partenariats avec de grandes entreprises technologiques. Par exemple, en 2019, OpenAI a entamé un partenariat pluriannuel avec Microsoft, améliorant la plateforme cloud de Microsoft, Azure, avec des produits informatiques basés sur l'IA. En 2023, Microsoft a annoncé un investissement de plusieurs milliards de dollars dans OpenAI.

Klu Studio LLM Provider OpenAI

Malgré ses réalisations, OpenAI a fait l'objet de critiques, en particulier après son passage d'un statut à but non lucratif à un statut à "profit plafonné" en 2019. Les critiques soutiennent que ce mouvement signalait un passage vers une "course aux armements en IA" axée sur le profit et un éloignement de son engagement à développer une intelligence artificielle générale "sûre et bénéfique".

La mission d'OpenAI est de s'assurer que l'AGI profite à toute l'humanité. Elle vise à construire une AGI sûre et bénéfique, mais considère également sa mission accomplie si son travail aide d'autres à atteindre cet objectif.

API Assistants

L'API Assistants d'OpenAI a été généralement bien accueillie pour sa convivialité et sa capacité à simplifier le pipeline RAG (Retrieve and Generate), qui est basé sur les meilleures pratiques de ChatGPT.

Elle est conçue pour simplifier le processus de construction d'assistants IA, le rendant accessible même pour les développeurs novices en IA.

Klu Huberman AI OpenAI Assistants API

L'API gère automatiquement la gestion de la mémoire, ce qui est un avantage significatif pour les développeurs. Elle automatise l'ensemble du processus RAG que les développeurs devaient généralement construire sur mesure, y compris le découpage des documents, l'indexation et le stockage des embeddings, et la mise en œuvre de la recherche vectorielle pour récupérer le contenu pertinent pour répondre aux requêtes des utilisateurs.

L'API Assistants introduit également le concept de "threads", qui permettent de capturer les conversations récentes et de fournir de meilleures réponses. Cependant, la configuration actuelle de la mémoire nécessite d'envoyer l'ensemble du thread à une base de données vectorielle chaque fois qu'un nouveau message est ajouté, ce qui peut ne pas être optimal pour tous les cas d'utilisation.

L'API a amélioré l'appel de fonction en termes de précision, et elle permet maintenant d'exécuter plusieurs actions en parallèle, ce qui peut réduire le nombre d'allers-retours appelant l'API. Cependant, la mise en place de déclencheurs personnalisés pour quand un appel de fonction doit être exécuté peut être un défi.

En termes de coût, l'API facture 0,03 $ par session, et chaque session est active par défaut pendant une heure. Cependant, pour certains cas d'utilisation, d'autres modèles commerciaux comme PaLM ou Claude, ou des modèles open source comme Llama, peuvent fournir de meilleurs résultats en termes de coût, de latence et de qualité.

Cependant, il y a certaines limitations à prendre en compte. Par exemple, le modèle d'embedding de texte utilisé par OpenAI, le modèle text-embedding-ada-002, n'est pas le meilleur disponible. Il se classe actuellement 20e sur les benchmarks MTEB, et d'autres modèles comme Instructor XL, qui sont à la pointe de la technologie sur 70 tâches, ne peuvent pas être utilisés avec l'API Assistants.

Dans l'ensemble, l'API Assistants est un outil puissant pour les développeurs qui cherchent à construire des assistants IA, mais elle peut nécessiter une configuration personnalisée pour des cas d'utilisation spécifiques ou pour ceux qui cherchent à utiliser des modèles autres que ceux fournis par OpenAI.

GPT-4 Turbo

GPT-4 Turbo est la version la plus récente et la plus puissante du modèle d'IA génératif d'OpenAI, annoncée en novembre 2023. Il fournit des réponses avec un contexte jusqu'en avril 2023, alors que les versions précédentes étaient coupées en janvier 2022. GPT-4 Turbo a une fenêtre de contexte élargie de 128k tokens, lui permettant de traiter plus de 300 pages de texte en une seule invite. Cela le rend capable de gérer des tâches plus complexes et des conversations plus longues.

Dans les benchmarks réalisés par Klu.ai, il a été observé lors de la manipulation de 60-128k tokens d'entrée que GPT-4 Turbo a tendance à récupérer plus constamment des faits à partir de la dernière moitié de l'entrée.

Les benchmarks ont été testés avec des faits échantillonnés aléatoirement sans bibliothèques intermédiaires (LangChain, LlamaIndex, etc) ou des systèmes de contexte (y compris Klu Context).

Klu Benchmark OpenAI GPT-4 Turbo 1106 Preview

Certaines des caractéristiques clés et des améliorations de GPT-4 Turbo incluent :

  • Base de connaissances mise à jour : GPT-4 Turbo a connaissance des événements jusqu'en avril 2023, ce qui le rend plus à jour que les versions précédentes.
  • Fenêtre de contexte plus grande : GPT-4 Turbo a une fenêtre de contexte de 128k tokens, lui permettant de traiter plus de texte en une seule invite.
  • Coût inférieur : GPT-4 Turbo est moins cher à exécuter pour les développeurs, avec des tokens d'entrée coûtant 0,01 $ par 1 000 tokens et des tokens de sortie coûtant 0,03 $ par 1 000 tokens.
  • Capacités multimodales : GPT-4 Turbo prend en charge les images générées par l'IA DALL-E 3 et le texte en parole, offrant six voix prédéfinies parmi lesquelles choisir.
  • Chatbots personnalisables : OpenAI a introduit les GPTs, permettant aux utilisateurs de créer des versions personnalisées de ChatGPT pour des objectifs spécifiques.

GPT-4 Turbo est disponible en avant-première pour les développeurs et sera lancé pour tous les utilisateurs en décembre 2023.

GPT-4V et TTS

GPT-4V est une extension du modèle GPT-4 d'OpenAI qui intègre des capacités de traitement d'images. Il peut analyser et interpréter des images, permettant aux utilisateurs de poser des questions sur le contenu visuel et de recevoir des réponses pertinentes en fonction du contexte.

GPT-4V peut gérer des tâches telles que la réponse à des questions visuelles, l'identification d'objets dans des images et la lecture de texte dans des images.

Le Text-to-Speech (TTS) est une technologie qui convertit le texte écrit en paroles. L'API TTS d'OpenAI propose six voix uniques : alloy, echo, fable, onyx, nova et shimmer.

Chaque voix a son propre caractère, fournissant un discours naturel pour diverses applications. La combinaison de GPT-4V et TTS peut rendre le contenu visuel plus accessible pour les personnes malvoyantes.

Quel est l'objectif d'OpenAI?

L'objectif principal d'OpenAI est de s'assurer que l'intelligence générale artificielle (AGI) bénéficie à toute l'humanité. L'AGI fait référence à des systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement précieux. OpenAI vise à construire une IA sûre et à distribuer ses bénéfices aussi largement et uniformément que possible. L'organisation s'engage à développer l'intelligence numérique de manière à bénéficier le plus probablement à l'humanité dans son ensemble, sans être contrainte par la nécessité de générer un rendement financier.

Les recherches d'OpenAI se concentrent sur les modèles génératifs et comment les aligner avec les valeurs humaines. Ils travaillent également à la construction d'une AGI sûre et bénéfique, et ils considèrent leur mission accomplie si leur travail aide d'autres à atteindre cet objectif. Les recherches d'OpenAI se caractérisent par une orientation à long terme sur les avancées fondamentales en IA et ses capacités.

OpenAI était initialement une organisation à but non lucratif, mais elle est passée à un modèle à profit plafonné en 2019. Malgré ce changement, l'organisation maintient son engagement envers la sécurité et la large distribution des bénéfices. Les recherches et les brevets d'OpenAI sont destinés à rester ouverts au public, sauf dans les cas où ils pourraient affecter négativement la sécurité.

Le travail d'OpenAI n'est pas sans critique. Le passage du statut à but non lucratif au statut à profit plafonné a alimenté la critique selon laquelle son engagement à construire une intelligence générale artificielle "sûre et bénéfique" était devenu une "course aux armements en IA" axée sur le profit. Malgré ces critiques, OpenAI continue d'innover et de développer de nouvelles technologies, avec un objectif clair de démocratiser l'IA.

Histoire précoce

OpenAI, une entreprise privée de technologie avec un intérêt particulier pour l'intelligence artificielle, a été créée en décembre 2015. L'équipe fondatrice comprend Elon Musk, le co-fondateur de SpaceX et PDG de Tesla, Greg Brockman de la célèbre startup de données Cloudera, et l'entrepreneur Rebekah Mercer. Parmi les autres membres fondateurs clés figurent Dimitry Ioffe, Pieter Abbeel et Patrick Mynyk. Depuis sa création, OpenAI a fait des progrès significatifs dans le paysage de l'IA, bénéficiant à la fois à sa communauté et au domaine plus large de l'IA.

L'un des projets notables d'OpenAI est OpenAI Zero, un laboratoire de recherche en IA dédié à la création d'un programme logiciel d'IA capable de surpasser de manière autonome tout autre programme en un laps de temps nettement plus court. Le développement de ce projet a commencé début 2017 et a été achevé à la fin de la même année. Cette réalisation a souligné le fait que l'état actuel de la technologie de l'IA est loin d'atteindre son plein potentiel, ouvrant ainsi des possibilités passionnantes pour les avancées futures.

OpenAI s'est lancé dans le développement d'OpenAI Gym fin 2015. Cet ensemble d'outils, conçu pour le développement et la comparaison d'algorithmes d'apprentissage par renforcement, offre une suite croissante d'environnements, y compris des tâches de robotique simulées et des jeux de société comme le Go. L'objectif d'OpenAI Gym est de fournir un ensemble diversifié d'environnements qui partagent une interface commune et sont conviviaux, facilitant ainsi le développement et la comparaison de nouveaux algorithmes d'apprentissage par renforcement.

En janvier 2017, OpenAI a dévoilé Universe, une plateforme logicielle qui permet de former des agents dans n'importe quel environnement, y compris les jeux, les sites web et les applications du monde réel. Universe est conçu pour former des agents à toute tâche qui peut être exprimée sous forme de processus de décision de Markov.

En avril 2017, OpenAI a annoncé son premier produit commercial, une API pour la construction de bots. Cette API permet aux développeurs de former des bots à effectuer des tâches telles que jouer à des jeux ou accomplir des tâches sur des sites web, rendant ainsi plus simple pour les développeurs de créer des bots capables d'effectuer des tâches complexes.

OpenAI a fait un pas significatif en mai 2017 en publiant un document détaillant leur travail sur la formation d'un agent d'IA pour jouer au jeu Dota 2. L'agent a réussi à battre un joueur humain professionnel dans un match 1v1, une réalisation remarquable compte tenu de la complexité et du grand nombre d'actions possibles dans Dota 2.

En novembre 2017, OpenAI a publié un document décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de cache-cache multijoueur en 3D. L'agent a triomphé sur une équipe de joueurs humains dans un match 3v3, une réalisation significative compte tenu de la complexité et du grand nombre d'actions possibles dans le cache-cache en 3D.

OpenAI a terminé l'année 2017 en beauté en publiant un document en décembre décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de match à échelle 1v1 dans le jeu de stratégie en temps réel StarCraft II. L'agent a réussi à battre un joueur humain professionnel dans un match 1v1, une réalisation remarquable compte tenu de la complexité et du grand nombre d'actions possibles dans StarCraft II.

OpenAI a commencé l'année 2018 en beauté en publiant un document en janvier décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de Go. L'agent a réussi à battre un joueur humain professionnel dans un match 1v1, une réalisation significative compte tenu de la complexité et du grand nombre d'actions possibles dans Go.

En février 2018, OpenAI a publié un document décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de poker. L'agent a triomphé sur une équipe de joueurs humains professionnels dans un jeu à 6 joueurs, une réalisation remarquable compte tenu de la complexité et du grand nombre d'actions possibles au poker.

OpenAI a continué sa série de victoires en mai 2018 en publiant un document détaillant leur travail sur la formation d'un agent d'IA pour jouer au jeu Dota 2. L'agent a réussi à battre une équipe de joueurs humains professionnels dans un match 5v5, une réalisation significative compte tenu de la complexité et du grand nombre d'actions possibles dans Dota 2.

En septembre 2018, OpenAI a publié un document décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de cache-cache multijoueur en 3D. L'agent a triomphé sur une équipe de joueurs humains dans un match 3v3, une réalisation significative compte tenu de la complexité et du grand nombre d'actions possibles dans le cache-cache en 3D.

OpenAI a terminé l'année 2018 en beauté en publiant un document en décembre décrivant leur travail sur la formation d'un agent d'IA pour jouer au jeu de Go. L'agent a réussi à battre un joueur humain professionnel dans un match 1v1, une réalisation remarquable compte tenu de la complexité et du grand nombre d'actions possibles dans Go.

L'ascension de GPT : 2018 à 2023

Depuis 2018, OpenAI a atteint plusieurs jalons significatifs :

  • **GPT-1 (juin 2018) ** — C'était le premier modèle qui générait du texte cohérent et diversifié sur n'importe quel sujet, marquant une percée dans la génération de langage naturel.

  • **GPT-2 (février 2019) ** — Ce modèle était une évolution significative de GPT-1, capable de générer du texte long et réaliste. Il était si puissant qu'il a été initialement retenu de l'accès public.

  • **GPT-3 (mai 2020) ** — GPT-3 a tout porté au niveau supérieur, générant du texte de haute qualité sur presque n'importe quel sujet et réalisant des exploits impressionnants de compréhension. C'était le premier modèle d'OpenAI à être offert comme un service commercial.

  • **OpenAI Five (avril 2019) ** — OpenAI Five a été le premier IA à battre les champions du monde dans un jeu d'esports, Dota 2. Il a également démontré une capacité rudimentaire à être un coéquipier avec les humains.

  • **GPT-3.5 (novembre 2022) ** — C'est à ce moment que ChatGPT est finalement sorti, superchargeant tout car il incluait l'apprentissage par renforcement.

  • **GPT-4 + Interpréteur de code (juillet 2023) ** — Cette dernière sortie d'OpenAI dispose d'un bac à sable de code qui permet l'analyse de données et la codification d'applications entières.

  • **GPT-4v + GPTs (novembre 2023) ** — Cette dernière sortie de la série de modèles GPT-4 dispose d'une fenêtre de contexte de 100k tokens et d'une nouvelle date de coupure des connaissances.

  • **Augmentation du trafic (avril 2023) ** — OpenAI.com a connu une augmentation considérable du trafic, enregistrant 1,8 milliard de visites, soit une augmentation de 11,12 % par rapport aux 1,6 milliard de visites enregistrées le mois précédent.

  • **Croissance de la main-d'œuvre ** — La main-d'œuvre d'OpenAI est passée de 52 en 2018 à 375 en 2023, démontrant son dévouement à développer ses opérations et ses capacités.

  • **Adoption par l'industrie ** — La plateforme d'OpenAI a été largement utilisée dans plusieurs industries, l'industrie de la technologie émergeant comme le leader. Elle est utilisée par 251 entreprises différentes liées à la technologie pour améliorer leurs opérations et leurs produits.

  • **Présence mondiale ** — En mai 2023, OpenAI a une présence et un réseau de soutien dans 163 nations, régions et territoires.

Ces jalons reflètent l'engagement d'OpenAI à faire progresser le domaine de l'intelligence artificielle et son impact sur diverses industries et secteurs.

Violation de sécurité en novembre 2023

Il y a eu des pannes significatives et des attaques par déni de service distribué (DDoS) sur OpenAI le 8 novembre 2023. Les pannes ont affecté le service ChatGPT d'OpenAI et son API associée, causant des perturbations pour ses utilisateurs dans le monde entier.

Les pannes ont été attribuées à un modèle de trafic anormal indicatif d'une attaque DDoS. Le groupe de hackers Anonymous Sudan a revendiqué ces attaques, citant la coopération d'OpenAI avec Israël et l'utilisation de l'IA dans le développement d'armes comme leurs motifs.

Les pannes ont commencé le 7 novembre avec des perturbations partielles, s'intensifiant en une panne majeure le 8 novembre. Les problèmes ont été initialement liés aux nouvelles fonctionnalités récemment déployées sur la plateforme d'OpenAI lors du DevDay, ce qui a entraîné une forte demande.

Les services d'OpenAI, y compris ChatGPT et son API, ont connu des pannes périodiques tout au long de la journée. Malgré la mise en œuvre de plusieurs mesures d'atténuation, l'entreprise a continué à enquêter sur le problème.

Les pannes ont servi de rappel de l'importance d'avoir des plans de contingence pour les temps d'arrêt inattendus, en particulier pour ceux qui comptent fortement sur des outils d'IA stables pour la création de contenu, l'analyse de données et le service client automatisé.

À la suite des pannes, de nombreux utilisateurs se sont tournés vers des services d'IA alternatifs, tels que Google Bard, pour constater qu'ils rencontraient également des problèmes. Le PDG d'OpenAI, Sam Altman, a reconnu l'instabilité du service et l'a attribuée à la forte demande pour les nouvelles fonctionnalités dévoilées lors de la première conférence des développeurs de l'entreprise.

Le 9 novembre 2023, Microsoft a temporairement restreint l'accès de ses employés au ChatGPT d'OpenAI en raison de préoccupations de sécurité et de données. L'entreprise a précisé que malgré son investissement significatif dans OpenAI, ChatGPT reste un service externe tiers, ce qui pourrait poser des risques pour la confidentialité et la sécurité. Cette décision est en ligne avec d'autres grandes entreprises qui ont restreint l'accès à ChatGPT pour prévenir le partage de données confidentielles.

Cependant, cette restriction a été rapidement inversée et l'accès à ChatGPT a été rétabli. Microsoft a précisé que le blocage temporaire était une erreur commise lors des tests des systèmes de contrôle de point de terminaison pour les grands modèles de langage (LLM). L'entreprise encourage ses employés et ses clients à utiliser des services comme Bing Chat Enterprise et ChatGPT Enterprise, qui offrent des mesures de confidentialité et de sécurité plus importantes.

Microsoft a un partenariat étroit avec OpenAI et a investi des milliards de dollars dans l'entreprise. Il utilise également le grand modèle de langage d'OpenAI dans ses outils alimentés par l'IA, tels que le chatbot de Bing. Microsoft a récemment rebaptisé Bing Chat en Microsoft Copilot, une interface de chat intégrée à ses résultats de recherche, Microsoft Edge et Windows 11, pour mieux concurrencer ChatGPT.

Départ d'Altman & Brockman

Le 17 novembre 2023, Sam Altman, le PDG d'OpenAI, a été licencié de son poste après que le conseil d'administration a constaté qu'il n'était pas "constamment franc" dans ses communications avec eux, ce qui a entravé leur capacité à remplir leurs responsabilités. Cette décision a été prise à la suite d'un examen effectué par le conseil d'administration. Mira Murati, la directrice de la technologie d'OpenAI, a pris la relève en tant que PDG par intérim jusqu'à la nomination d'un titulaire permanent. Greg Brockman, le président d'OpenAI, a également annoncé son départ de l'entreprise.

Altman et Brockman ont été apparemment "choqués et attristés" par la décision du conseil. Ils ont appris la décision lors d'une réunion avec le conseil, à laquelle tous les membres ont assisté sauf Brockman. Après avoir été informé de son licenciement, Brockman a été invité à une réunion séparée où on lui a dit qu'il était retiré du conseil mais qu'il était "vital pour l'entreprise et qu'il conserverait son rôle". Brockman a choisi de démissionner de lui-même.

Suite au remaniement de la direction d'OpenAI, qui a vu le départ du PDG Sam Altman et du président Greg Brockman, trois chercheurs seniors ont également démissionné de l'entreprise. Jakub Pachocki, directeur de la recherche d'OpenAI ; Aleksander Madry, chef d'une équipe évaluant les risques potentiels de l'IA ; et Szymon Sidor, chercheur de sept ans à la startup, ont tous démissionné. Ces départs indiquent une déception significative parmi certains employés après le renvoi d'Altman et mettent en évidence des divisions de longue date au sein de l'entreprise concernant les pratiques de sécurité de l'IA.

Il y avait des arguments internes au sein d'OpenAI sur la question de savoir si l'entreprise développait la technologie de l'intelligence artificielle de manière sûre. Certains employés se demandaient si Altman avait été écarté parce qu'il commercialisait trop rapidement la technologie d'OpenAI au détriment de préoccupations potentielles de sécurité. Altman et Ilya Sutskever, un co-fondateur d'OpenAI, auraient eu des désaccords sur la vitesse de développement et la commercialisation de l'entreprise.

Mira Murati, la nouvelle PDG par intérim, a rejoint OpenAI en 2018. En tant que CTO, elle a dirigé le développement de ChatGPT et d'autres produits tels que la série de modèles de génération d'images DALL-E. Avant sa nomination en tant que PDG par intérim, elle dirigeait trois des unités les plus importantes d'OpenAI : les groupes de recherche, de produits et de sécurité de l'IA. Malgré ces changements, Microsoft, un partenaire commercial clé d'OpenAI, a déclaré que la transition n'affecterait pas sa relation avec l'entreprise.

OpenAI, le développeur d'intelligence artificielle connu pour avoir créé ChatGPT, a récemment subi des changements de direction significatifs et des turbulences internes. Le conseil d'administration de l'entreprise a licencié le PDG Sam Altman après un examen qui a révélé qu'il n'était "pas constamment franc dans ses communications" avec le conseil, ce qui a entravé la capacité du conseil à exercer ses responsabilités. Suite à cela, le président d'OpenAI, Greg Brockman, a également démissionné.

Le licenciement d'Altman a été suivi par la démission de trois chercheurs seniors chez OpenAI : Jakub Pachocki, le directeur de la recherche de l'entreprise ; Aleksander Madry, chef d'une équipe évaluant les risques potentiels de l'IA, et Szymon Sidor, un chercheur de sept ans à la startup. Ces départs sont perçus comme un signe de déception parmi certains employés après le renvoi d'Altman et mettent en évidence des divisions de longue date au sein de l'entreprise sur les pratiques de "sécurité" de l'IA.

Avant le départ d'Altman, il y avait des désaccords internes parmi les employés sur la question de savoir si l'entreprise développait l'intelligence artificielle de manière suffisamment sûre. Certains employés se sont demandé si le licenciement d'Altman faisait partie d'une "prise de contrôle hostile" ou s'il impliquait qu'Altman se déplaçait trop rapidement pour commercialiser le logiciel au détriment de préoccupations potentielles de sécurité.

Au cours du week-end, il y a eu des développements significatifs impliquant Sam Altman et OpenAI. Altman, qui a été évincé en tant que PDG d'OpenAI vendredi, a passé le week-end à faire pression sur le conseil d'administration de l'entreprise pour qu'il le réintègre. Cela a entraîné une vague de soutien de la part des investisseurs, des employés et des dirigeants d'OpenAI. Cependant, malgré ces efforts, les pourparlers pour réintégrer Altman ont échoué.

Au lieu de cela, Emmett Shear, co-fondateur du site de streaming vidéo Twitch, a été nommé PDG par intérim d'OpenAI. Cela a suivi une brève période de deux jours où la directrice de la technologie Mira Murati a occupé le poste de PDG par intérim après le départ d'Altman.

Dans un revirement surprenant, le PDG de Microsoft, Satya Nadella, a annoncé qu'Altman, ainsi que Greg Brockman, un co-fondateur d'OpenAI qui avait également démissionné, rejoindraient Microsoft pour diriger une nouvelle équipe de recherche avancée en IA. Ce mouvement est significatif compte tenu du partenariat technologique étroit de Microsoft avec OpenAI et de son investissement substantiel dans l'entreprise.

Les événements entourant le licenciement d'Altman et les développements subséquents ont attiré une attention significative, mettant en évidence une fracture dans la communauté de l'IA entre ceux qui voient l'IA comme une grande opportunité commerciale et ceux qui s'inquiètent des dangers potentiels de se déplacer trop vite. La situation chez OpenAI est toujours en évolution, et il reste à voir comment ces changements affecteront la direction future de l'entreprise et sa relation avec Microsoft.

2023, Shear en tant que PDG d'OpenAI

Emmett Shear, l'ancien PDG de Twitch, a été nommé PDG par intérim d'OpenAI le 19 novembre 2023, suite au départ soudain de Sam Altman. Dans les premiers jours de son mandat, Shear a défini un plan de 30 jours pour l'entreprise, qui comprend trois objectifs clés :

  1. Engager un enquêteur indépendant pour examiner les événements qui ont conduit au départ de Sam Altman et générer un rapport complet.
  2. Engager le dialogue avec les parties prenantes telles que les employés, les partenaires, les investisseurs et les clients.
  3. Restructurer l'équipe de direction et de management à la lumière des départs récents.

Shear vise à résoudre les troubles au sein de l'entreprise et à impulser des changements dans l'organisation, y compris à pousser pour des changements de gouvernance significatifs si nécessaire.

Shear a exprimé sa conviction de l'importance d'OpenAI et des dangers potentiels de l'IA. Il a déclaré qu'il avait accepté le poste parce qu'il croit qu'OpenAI est l'une des entreprises les plus importantes actuellement en existence. Il a également exprimé des préoccupations quant au potentiel de l'IA à poser une menace existentielle à l'humanité, décrivant l'IA comme "assez intrinsèquement dangereuse".

Malgré le bouleversement suite au départ d'Altman, Shear a déclaré que le partenariat d'OpenAI avec Microsoft reste solide. Il a également souligné qu'il a accepté le poste avec le soutien du conseil pour la commercialisation des modèles d'OpenAI, indiquant qu'il ne voit pas les préoccupations de sécurité comme la cause du départ d'Altman.

La nomination de Shear intervient à un moment difficile pour OpenAI, avec environ 600 employés menaçant de démissionner à moins qu'Altman ne revienne. L'accent initial de Shear sera mis sur l'enquête sur le processus qui a conduit à la situation actuelle, l'ouverture des lignes de communication avec les partenaires et les employés, et la reconstruction des équipes de direction et de management.

Shear a annoncé sur Twitter que son mandat en tant que PDG a duré un peu plus de 48 heures et que Sam Altman est revenu en tant que PDG.

Q* et AGI atteints en interne

Le 18 septembre 2023, Jimmy Apples a tweeté "Agi a été atteint en interne". Ce tweet a ensuite été supprimé, mais a déclenché des spéculations sur Internet car les fuites de M. Apples concernant Gobi et GPT-4 se sont avérées correctes.

Q* d'OpenAI (prononcé "Q-star") est un projet non publié qui a été décrit comme une percée potentielle dans la poursuite de l'intelligence artificielle générale (AGI), que OpenAI définit comme des systèmes d'IA qui surpassent les humains dans la plupart des tâches économiquement précieuses. Les spécificités de Q* ne sont pas entièrement divulguées, mais il est suggéré qu'il pourrait être lié à l'apprentissage par renforcement sans modèle Q-learning.

Le projet Q* est un projet interne présumé chez OpenAI qui pourrait représenter un pas vers l'AGI, selon des sources anonymes. Alors que le projet est dit impliquer un algorithme d'IA puissant capable de résoudre des problèmes de mathématiques de niveau école primaire, les spécificités de la technologie et la nature des préoccupations de sécurité soulevées par les chercheurs ne sont pas divulguées. La connexion spéculative à l'apprentissage par Q et l'intégration potentielle avec les modèles de langage doit être interprétée avec prudence. Les changements organisationnels chez OpenAI entourant le projet soulignent son importance perçue mais reflètent également des désaccords internes et des complexités. Étant donné le manque d'informations vérifiées, toute conclusion sur le projet Q* doit être considérée comme provisoire et sujette à une confirmation et une analyse plus approfondies.

Q* a été lié à un événement significatif chez OpenAI, où plusieurs chercheurs du personnel ont écrit une lettre au conseil d'administration avertissant d'une découverte d'IA puissante qu'ils croyaient pouvoir menacer l'humanité. Cette lettre a été un développement clé avant le renvoi du PDG d'OpenAI Sam Altman par le conseil.

Le modèle Q* a démontré la capacité de résoudre des problèmes mathématiques au niveau des mathématiques de l'école primaire. C'est significatif parce que les chercheurs considèrent les mathématiques comme une frontière du développement de l'IA générative. Actuellement, l'IA générative est bonne pour l'écriture et la traduction de langues en prédisant statistiquement le mot suivant, et les réponses à la même question peuvent varier considérablement. Mais conquérir la capacité de faire des mathématiques - où il n'y a qu'une seule bonne réponse - implique que l'IA aurait des capacités de raisonnement plus grandes ressemblant à l'intelligence humaine.

Certains spéculent que Q* pourrait combler un écart significatif entre l'apprentissage par Q et les heuristiques prédéterminées, donnant potentiellement à une machine une "vision du futur" dans l'étape optimale suivante, lui économisant beaucoup d'effort. Cela pourrait signifier que les machines peuvent arrêter de poursuivre des solutions sous-optimales, et se concentrer uniquement sur les optimales.

Il est également suggéré que Q* pourrait permettre aux grands modèles de langage d'OpenAI de gérer directement les problèmes de mathématiques et de logique, qui nécessitaient auparavant l'utilisation de logiciels informatiques externes. Cependant, ce sont des spéculations et la nature exacte et les capacités de Q* restent non divulguées par OpenAI.

Rumeurs sur l'entraînement de GPT-5

L'entraînement de GPT-5, la prochaine itération du modèle de langage d'OpenAI, n'est pas officiellement confirmé avoir commencé au 17 novembre 2023. Le PDG d'OpenAI, Sam Altman, a confirmé que GPT-5 est en cours de développement, mais il n'a pas spécifié une date de début pour l'entraînement du modèle.

Sur la base de ces signaux, nous pensons que le calendrier suivant est viable en fonction des performances passées :

  • Principe de mise à l'échelle : 10-20x l'échelle de GPT-4 (25k A100 80GB)
  • Course d'entraînement GPT-5 : de décembre 2023 à février 2024 (±2 mois)
  • Course RLHF GPT-5 : de février 2024 à avril 2024 (±2 mois)
  • Red Teaming GPT-5 : d'avril 2024 à octobre 2024 (±2 mois)
  • Matériel d'entraînement GPT-5 : 250-500k Nvidia H100s
  • Coût de l'entraînement GPT-5 : 1,25-2,5 milliards de dollars américains
  • Annonce de GPT-5 : OpenAI DevDay 2 (novembre 2024)

Dans une interview, Altman a laissé entendre que les premières étapes du développement de GPT-5 pourraient inclure la mise en place de l'approche d'entraînement, la coordination des annotateurs et la curation de l'ensemble de données.

  • Phase de développement précoce : Le PDG d'OpenAI, Sam Altman, a confirmé que GPT-5 est dans les phases initiales de développement. Cela suggère que l'entraînement du modèle n'a pas encore commencé et est probablement en phase de planification.

  • Approche d'entraînement et curation de l'ensemble de données : La phase précoce du développement de GPT-5 comprend la mise en place de l'approche d'entraînement, la coordination des annotateurs et la curation d'un ensemble de données. Cela indique un accent sur la préparation de l'infrastructure et des processus nécessaires à l'entraînement du modèle.

  • Utilisation de GPTBot pour l'expansion de l'ensemble de données : OpenAI utilise un web crawler nommé GPTBot pour collecter un ensemble de données robuste à partir d'informations publiquement disponibles en ligne. Cela améliorera probablement la qualité et la diversité des données d'entraînement pour GPT-5.

  • Décisions stratégiques et dépôt de marque : OpenAI a pris une décision stratégique de poursuivre le développement de GPT-5, qui comprend le dépôt de la marque "GPT-5" en août. Cela reflète l'engagement de l'entreprise à faire avancer les capacités de l'IA.

  • Contradiction de l'hésitation antérieure : La décision de développer GPT-5 contredit les hésitations antérieures de Sam Altman et les déclarations qui suggéraient une pause dans la progression au-delà de GPT-4. Ce changement peut être dû à de nouvelles perspectives ou à des changements de stratégie.

  • Sécurité et tests : Il y a un accent sur la prédiction des capacités d'un point de vue de sécurité, ce qui implique que des tests rigoureux et des considérations de sécurité seront intégraux au développement de GPT-5.

  • Pas de calendrier officiel ou de capacités : Le calendrier spécifique pour la sortie de GPT-5 et ses capacités n'ont pas été divulgués, laissant beaucoup de place à la spéculation.

  • Impact sur les industries : Il y a une anticipation sur l'impact potentiel de GPT-5 dans diverses industries, mais aussi des préoccupations concernant les biais, la désinformation et l'utilisation malveillante.

  • Changement de l'orientation de l'entreprise : L'orientation d'OpenAI a évolué pour mettre l'accent sur le développement de l'AGI (Intelligence Artificielle Générale), suggérant une transformation plus large de l'approche de l'entreprise.

  • Anticipation et considérations éthiques : La communauté technologique attend avec impatience de plus amples détails sur GPT-5, et il y a un fort intérêt pour la façon dont les technologies en évolution seront équilibrées avec des considérations éthiques.

Cependant, il y a eu des rapports contradictoires sur le calendrier de GPT-5. Elon Musk, un co-fondateur d'OpenAI, a suggéré dans une interview que GPT-5 pourrait être lancé d'ici la fin de 2023. Cette affirmation est en contradiction avec la déclaration d'Altman selon laquelle ils n'ont pas encore commencé à travailler sur GPT-5.

Le calendrier de développement et de lancement de GPT-5 est fortement influencé par deux facteurs critiques - les données nécessaires à l'entraînement et les ressources financières. OpenAI a été impacté par la forte demande pour les puces H100 de NVIDIA, essentielles pour la construction des centres de données nécessaires à l'entraînement des modèles d'IA. Cependant, la situation devrait s'améliorer l'année prochaine, avec des acteurs comme AMD et Microsoft développant leur matériel pour concurrencer NVIDIA.

Compte tenu de ces facteurs, il est difficile de prédire exactement quand l'entraînement de GPT-5 commencera. Cependant, il est clair qu'OpenAI se prépare activement pour le développement de GPT-5, et plus d'informations devraient émerger dans les mois à venir.

Quel est le paysage concurrentiel d'OpenAI ?

OpenAI a l'avantage de son banc de recherche profond et de son personnel talentueux dirigé par Sam Altman et des leaders techniques comme Ilya Sutskever. Mais les grandes technologies ont plus de ressources à investir dans l'IA qu'OpenAI.

Examinons le paysage concurrentiel d'OpenAI, en mettant en évidence ses principaux concurrents et les domaines où ils rivalisent pour la dominance :

  • OpenAI est un laboratoire de recherche en intelligence artificielle de premier plan axé sur le développement d'une IA sûre et bénéfique. Parmi leurs principaux concurrents en recherche sur l'IA, on trouve Google DeepMind, Facebook AI Research (FAIR), l'Université Carnegie Mellon, l'Université Stanford et d'autres grandes entreprises technologiques et institutions académiques.

  • En traitement du langage naturel, les modèles GPT d'OpenAI (comme GPT-4) sont en concurrence avec les grands modèles de langage de Google (PaLM 2), Microsoft (Phi-2), Meta (Llama 2), Anthropic (Claude 2), Cohere (Command), et d'autres. GPT-4 a montré de très fortes capacités de génération de langage lors de son lancement en 2023.

  • En robotique, OpenAI est en concurrence avec des entreprises comme Boston Dynamics qui repoussent les limites des capacités robotiques. La plateforme de robotique d'OpenAI comprend Dactyl pour les mains de robot dextres.

  • Pour la sécurité et l'éthique de l'IA, OpenAI est en concurrence avec des groupes comme le Future of Humanity Institute, le Center for Human-Compatible AI, et le Machine Intelligence Research Institute qui se spécialisent également dans l'IA bénéfique.

  • Commercialement, OpenAI est en concurrence avec les géants de la technologie qui offrent des services d'IA en nuage comme Google Cloud AI, Amazon AWS AI, et Microsoft Azure AI. OpenAI offre son propre accès API pour les clients.

OpenAI fait face à la concurrence des principales organisations technologiques et de recherche à la fois pour faire avancer les capacités de l'IA et pour diriger l'IA vers des impacts positifs. Mais ils restent l'un des principaux laboratoires indépendants d'IA aujourd'hui.

Quels sont certains des défis auxquels OpenAI est confronté ?

OpenAI, un laboratoire de recherche en IA de premier plan, a été confronté à plusieurs défis ces dernières années :

  • Baisse de la base d'utilisateurs : OpenAI a constaté une baisse significative des utilisateurs de ses produits GPT, en particulier ChatGPT. Cette baisse a été initialement attribuée à des facteurs tels que les étudiants qui ne sont pas à l'école, mais il a également été noté que les utilisateurs ont commencé à construire leurs propres bots en utilisant l'API ChatGPT au lieu d'utiliser l'offre originale. Ce phénomène, connu sous le nom de cannibalisation de l'API, a conduit à une nouvelle baisse de la base d'utilisateurs de ChatGPT.

  • Défis financiers : OpenAI fait face à des difficultés financières, le coût de l'exécution de ChatGPT seul s'élevant à 700 000 dollars par jour. Malgré un investissement substantiel de Microsoft, les pertes de l'entreprise ont doublé depuis le développement de ChatGPT. Si OpenAI ne sécurise pas de financement supplémentaire dans un avenir proche, elle pourrait faire face à la possibilité de faillite d'ici la fin de 2024.

  • Concurrence croissante : L'essor des modèles de langage de grande taille (LLM) open source comme Llama 2 de Meta, en partenariat avec Microsoft, présente une solide alternative à la version payante et restreinte d'OpenAI. De nombreuses startups migrent des modèles propriétaires vers ces alternatives open source.

  • Pénurie de GPU : OpenAI est aux prises avec une pénurie de GPU, ce qui entrave leur capacité à entraîner et à améliorer les modèles. Ils dépendent des GPU NVIDIA, qui ne seront disponibles qu'au deuxième trimestre de 2024 pour l'entraînement de leurs modèles.

  • Qualité de la sortie : Le dépôt de marque récent d'OpenAI pour 'GPT-5' indique leur intention de former davantage le modèle mais a entraîné une baisse de la qualité de la sortie.

  • Hype et secret : OpenAI a été accusé d'alimenter le cycle de hype de l'IA et de caractériser de manière erronée ses résultats. Il a également gardé certains de ses efforts de recherche entièrement secrets, ce qui a rendu la communauté de l'IA plus large méfiante.

  • Choix stratégiques : Le choix stratégique d'OpenAI d'essayer d'atteindre l'intelligence artificielle générale (AGI) avant tout le monde a conduit à des décisions qui semblent dévier de son intention originale. Il se penche sur le hype pour attirer des financements et des talents, garde ses recherches pour garder l'avantage, et poursuit une stratégie lourde en calcul parce qu'elle semble être la voie la plus rapide vers l'AGI.

Ces défis mettent en évidence le paysage complexe de la recherche et du développement de l'IA, et les pressions auxquelles sont confrontées des organisations comme OpenAI dans leur quête d'avancement de la technologie de l'IA.

Orientations futures pour OpenAI

Les plans et orientations futurs d'OpenAI se concentrent sur la garantie que l'intelligence artificielle générale (AGI) bénéficie à toute l'humanité. Leur approche comprend :

  • Déployer des systèmes d'IA de plus en plus puissants et acquérir de l'expérience avec leur fonctionnement dans le monde réel, permettant une transition progressive vers un monde avec AGI.

  • Créer des modèles de plus en plus alignés et dirigeables, comme le passage de GPT-3 à InstructGPT et ChatGPT.

  • Travailler sur des projets spéciaux, tels que la détection de systèmes d'IA de pointe secrets, la construction d'agents pour gagner des compétitions de programmation en ligne, et la création de simulations complexes avec des agents à longue durée de vie.

  • Développer et améliorer leur série GPT, avec GPT-5 qui devrait offrir des fonctionnalités plus avancées que les réseaux neuronaux actuels. On dit que l'entraînement de GPT-5 commencera l'année prochaine avec de nouveaux déploiements de GPU en ligne dans le cloud Azure.

  • Se concentrer sur des domaines de recherche comme l'alignement, l'équité, la représentation, la recherche interdisciplinaire, et l'interprétabilité/transparence.

  • Explorer la possibilité de fabriquer leurs propres puces d'IA pour faire face à la crise des GPU et soutenir le développement de modèles d'IA plus puissants.

OpenAI s'engage également à coopérer avec d'autres institutions de recherche et de politique, à créer une communauté mondiale pour relever ensemble les défis de l'AGI. Ils visent à être transparents sur leurs techniques d'alignement et à partager leurs recherches lorsqu'il est sûr de le faire.

OpenAI est à la pointe de la recherche et du développement de l'IA, avec un engagement à repousser les limites de ce qui est possible. Voici quelques-unes des directions passionnantes qu'OpenAI explore pour l'avenir :

  • Développement de logiciels d'IA : OpenAI est dédié à l'amélioration continue et à l'expansion de ses logiciels d'IA. Ce logiciel est déjà utilisé par des géants de la technologie tels que Google, Facebook et Microsoft.

  • Exploration de nouveaux domaines : OpenAI ne se limite pas aux domaines existants de l'IA. Il s'aventure activement dans de nouveaux domaines tels que la robotique et le traitement du langage naturel, visant à apporter des contributions significatives dans ces domaines.

  • Recherche collaborative : OpenAI croit en la puissance de la collaboration. Il prévoit d'augmenter ses efforts de collaboration avec d'autres organisations de recherche et entreprises, dans le but de faire avancer la technologie de l'IA à de nouveaux sommets.

FAQ

Quels avantages OpenAI cherche-t-elle à obtenir avec l'intelligence artificielle générale et la recherche en IA ?

La mission d'OpenAI est de garantir que l'intelligence artificielle générale profite à toute l'humanité. Ils s'engagent à faire progresser l'intelligence numérique de manière à pouvoir résoudre des problèmes complexes à grande échelle, avec l'objectif ultime de créer un impact humain positif grâce au développement d'une IA sûre et bénéfique.

OpenAI a introduit une variété d'outils et de plateformes visant à faire avancer la technologie de l'IA et à bénéficier à la société. Parmi ceux-ci, l'OpenAI Gym a été publié à plusieurs reprises, fournissant une plateforme pour développer l'IA à travers des modèles d'apprentissage profond et d'apprentissage automatique. Cette initiative s'aligne sur la mission d'OpenAI de garantir que le développement d'une IA de niveau humain adhère aux volontés humaines individuelles et collabore librement pour le plus grand bien. Bien qu'OpenAI ait commencé en tant qu'organisation à but non lucratif, son objectif a toujours été de créer des modèles d'apprentissage automatique qui peuvent bénéficier à l'humanité dans son ensemble.

Comment OpenAI fait-elle avancer la technologie de l'IA ?

OpenAI est à l'avant-garde du développement des technologies de l'IA et de l'apprentissage profond, visant à faire progresser l'intelligence numérique. Ils se consacrent à la création de modèles et d'outils d'apprentissage automatique qui peuvent former des systèmes d'IA à effectuer une large gamme de tâches, dans l'intention de bénéficier à l'humanité.

Quels sont quelques-uns des réalisations notables d'OpenAI ?

OpenAI a publié la série de transformateurs pré-entraînés génératifs, qui a été une étape importante dans l'histoire surprenante de l'IA. Ces modèles d'apprentissage automatique ont établi de nouvelles normes dans le domaine et ont été largement adoptés pour diverses applications, y compris la capacité de générer des images.

L'OpenAI Gym démontre à quel point les capacités de niveau humain OpenAI ont été publiées avant d'être obligées de retirer l'OpenAI Gym parce qu'il était trop puissant par rapport à la façon dont OpenAI veut travailler alors que son OpenAI à but non lucratif contrôle tout.

Comment OpenAI soutient-elle son personnel et leurs contributions ?

OpenAI émet un type spécial d'équité à son personnel, reconnaissant leurs contributions à la mission de l'organisation et au domaine plus large de l'IA. Cette approche s'aligne sur les valeurs d'OpenAI de collaboration et de succès partagé dans la poursuite d'une IA bénéfique.

OpenAI est-elle une organisation à but non lucratif ?

Bien qu'OpenAI ait commencé en tant qu'organisation à but non lucratif, elle a depuis évolué vers un modèle de "profit plafonné" avec OpenAI LP. Ce changement permet d'attirer des investissements en capital tout en maintenant un accent sur un impact humain positif et le développement sûr de logiciels d'intelligence artificielle.

Comment OpenAI s'engage-t-elle avec la communauté de l'apprentissage automatique ?

OpenAI a lancé et introduit divers outils et modèles d'apprentissage automatique à la communauté, favorisant un environnement de collaboration ouverte. Ils croient en la puissance du savoir et des ressources partagés pour accélérer les progrès dans la recherche et le développement de l'IA.

Quelle est l'approche d'OpenAI pour former des systèmes d'IA ?

L'approche d'OpenAI pour former des systèmes d'IA implique une recherche et un développement rigoureux, s'assurant que leurs modèles, tels que le transformateur pré-entraîné génératif, peuvent comprendre et générer du texte semblable à celui des humains. Cela contribue à l'avancement de l'IA et reflète l'engagement d'OpenAI à bénéficier à l'humanité.

More terms

What is the ASR (Automated Speech Recognition)?

Automated Speech Recognition (ASR) is a technology that uses Machine Learning or Artificial Intelligence (AI) to convert human speech into readable text. It's a critical component of speech AI, designed to facilitate human-computer interaction through voice. ASR technology has seen significant advancements over the past decade, with its applications becoming increasingly common in our daily lives. It's used in popular applications like TikTok, Instagram, Spotify, and Zoom for real-time captions and transcriptions.

Read more

What is approximation error?

Approximation error refers to the difference between an approximate value or solution and its exact counterpart. In mathematical and computational contexts, this often arises when we use an estimate or an algorithm to find a numerical solution instead of an analytical one. The accuracy of the approximation depends on factors like the complexity of the problem at hand, the quality of the method used, and the presence of any inherent limitations or constraints in the chosen approach.

Read more

It's time to build

Collaborate with your team on reliable Generative AI features.
Want expert guidance? Book a 1:1 onboarding session from your dashboard.

Start for free