La tendance des mises à jour des modèles d’IA par OpenAI, Google et Anthropic pourrait ralentir en raison de défis de développement. OpenAI rencontre des difficultés avec son modèle Orion, tandis que Google et Anthropic subissent des retards similaires. Les limitations des données d’entraînement et la nécessité de nouvelles approches soulèvent des questions sur l’avenir des capacités des IA. Ce ralentissement pourrait offrir l’opportunité d’explorer les outils existants plus en profondeur.
Peu après qu’OpenAI, Google ou Anthropic annoncent une mise à jour significative de leurs modèles d’intelligence artificielle, il est courant de voir des discussions émerger sur la prochaine version attendue et ses caractéristiques. Ces mises à jour ont été assez fréquentes, alimentant les spéculations. Toutefois, un rapport récent de Bloomberg suggère que cette tendance pourrait changer. Les trois géants de l’IA rencontreraient des difficultés pour aligner leurs modèles de nouvelle génération avec leurs ambitions d’amélioration par rapport à ceux actuellement disponibles.
Défis de développement pour OpenAI, Google et Anthropic
Selon le rapport, OpenAI fait face à des complications dans le développement de son modèle Orion, qui ne progresse pas comme prévu. Les performances d’Orion ne répondent pas aux attentes, en particulier dans le domaine de la programmation. Il est peu probable qu’Orion représente un changement radical par rapport à GPT-4, à l’inverse de l’ascension de GPT-4 par rapport à GPT-3.5. Ce constat pourrait expliquer pourquoi Sam Altman, le PDG d’OpenAI, a pris la parole pour démentir les rumeurs concernant la date de lancement d’Orion et d’une mise à jour de ChatGPT.
Les retards et des attentes moins optimistes touchent également Google et Anthropic. Le développement du modèle Gemini par Google avance à un rythme plus lent que prévu. De son côté, Anthropic a déjà reporté le lancement de son modèle Claude 3.5 Opus pour des raisons similaires, malgré des annonces antérieures faites plus tôt dans l’année.
Les limites des données d’entraînement
Tous les développeurs d’IA se heurtent à des obstacles similaires dans l’amélioration des capacités de leurs systèmes. L’un des plus grands défis réside probablement dans les données d’entraînement. Les entreprises ont utilisé d’immenses ensembles de données pour former leurs modèles d’IA, mais même Internet a ses limites, en particulier pour les données de haute qualité indispensables à l’entraînement. La recherche de nouvelles informations utiles devient de plus en plus complexe. Cela est en partie dû à une sensibilisation accrue aux droits éthiques et légaux liés à l’utilisation de certaines données, mais ce n’est qu’une partie du problème. À un certain moment, il n’y a pas suffisamment d’exemples disponibles pour que les modèles d’IA puissent apprendre et s’améliorer. Même si des données brutes sont accessibles, leur traitement et leur intégration dans un modèle d’IA nécessitent des ressources financières et de calcul considérables. Si ces données n’apportent que des améliorations marginales, il se peut que la mise à niveau du modèle d’IA ne justifie pas son coût.
Le rapport souligne que des entreprises comme OpenAI et ses concurrents explorent d’autres approches pour mettre à jour leurs modèles, comme le post-entraînement d’Orion basé sur des retours humains. Cette méthode, bien que bénéfique, est lente et soulève des interrogations quant à savoir si l’IA a atteint un plafond en termes de taille et de fonctionnalités. La puissance de calcul brute et les grands volumes de données pourraient ne plus suffire pour réaliser les ambitions des développeurs d’IA. Il sera donc crucial pour eux d’adopter des stratégies plus innovantes pour faire évoluer leurs modèles sans recourir à une surcharge d’informations.
Pour nous, cela signifie que nous pourrions observer un rythme plus lent dans les lancements de nouvelles fonctionnalités d’IA. Bien que cela puisse sembler négatif, cela pourrait également offrir à chacun l’opportunité de prendre du recul et d’explorer en profondeur les outils d’IA qui ont été mis à disposition ces dernières années. Il y a encore tellement à découvrir avec ChatGPT-o1. Qui sait, peut-être que cela donnera à OpenAI le temps nécessaire pour peaufiner le lancement de son créateur vidéo d’IA, Sora, qui a été gardé sous le coude malgré des démonstrations régulières.