Jusqu’où entraîner l’IA ? OpenAI propose un seuil commun

Le titre « Jusqu’où entraîner l’IA ? » et le logo OpenAI sur fond bleu pétrole, au-dessus d’une courbe qui approche un repère orange.

À quel moment un laboratoire d’IA devrait-il s’arrêter pour vérifier qu’il sait encore surveiller son modèle ? Dans un texte publié le 22 novembre, Jakub Pachocki, directeur scientifique d’OpenAI, propose aux développeurs de convenir de limites communes. Il suggère de les mesurer notamment à l’aide de la perplexité, un indicateur que son équipe suit depuis plusieurs générations de modèles. Pour lancer la discussion, il publie une série de chiffres jusqu’ici internes. Publication d’OpenAI du 22 novembre

La perplexité mesure la qualité d’une prédiction

Après « Le chat », un modèle attribue des probabilités à différentes suites possibles. Si le texte de référence continue par « miaule », le résultat est meilleur lorsque le modèle avait donné beaucoup de poids à cette suite. L’opération se répète sur les fragments de texte ou de code, appelés tokens, d’un corpus réservé à l’évaluation. Une perplexité plus basse indique que le modèle avait, en moyenne, mieux anticipé les fragments réellement observés. L’indicateur tient donc compte des probabilités attribuées à chaque bonne réponse, même quand elle arrive en deuxième position.

De 0,99 à 0,76 sur le test interne d’OpenAI

OpenAI suit le logarithme de la perplexité, appelé aussi perte d’entropie croisée. Sur une version figée d’un jeu de test issu de son code interne, l’entreprise situe GPT-3.5 autour de 0,99 et GPT-4 autour de 0,91. Pachocki rapporte avoir vu apparaître des résultats marquants sur des problèmes de mathématiques ouverts avec un modèle à environ 0,76. Les trois valeurs proviennent du protocole d’OpenAI et décrivent une évolution observée sur ce corpus. L’auteur estime que d’autres capacités pourraient émerger entre 0,68 et 0,70, une extrapolation dont il dit ignorer les effets précis. La proposition de fixer une limite commune laisse la valeur de cette limite à définir. Chiffres et notes méthodologiques d’OpenAI

Un seuil commun donnerait du poids aux tests de sécurité

Pachocki propose que les laboratoires s’engagent à rester en deçà d’un niveau de capacité convenu tant qu’ils n’ont pas atteint un objectif précis de surveillance. Il évoque par exemple la mise au point d’une méthode capable de prendre le relais des outils qui inspectent aujourd’hui les étapes de raisonnement écrites par le modèle. La perplexité ferait partie des mesures examinées et les seuils pourraient être révisés au fil des progrès. La proposition porte donc sur le rythme du développement dès le préentraînement, en amont du lancement d’un produit. Elle rejoint le débat ouvert en septembre par Dario Amodei, qui plaidait pour des évaluateurs externes intégrés aux laboratoires et des engagements communs sur la cadence. Proposition de Pachocki · Texte de Dario Amodei

L’IA commence aussi à participer aux recherches qui améliorent les modèles suivants. Dans un rapport du 18 novembre, des chercheurs d’OpenAI disent avoir développé certaines idées de préentraînement de GPT-6.2 Astra en travaillant avec Codex. Pachocki attribue toutefois l’essentiel de l’accélération de la baisse de la perplexité en 2026 à des investissements de long terme dans la recherche et le calcul. Rapport sur l’accélération de la recherche

Les laboratoires devront s’entendre sur ce qu’ils mesurent

Deux équipes peuvent obtenir des scores différents simplement parce qu’elles testent leurs modèles sur des corpus différents ou découpent le texte en fragments de tailles différentes. Un modèle entraîné sur beaucoup de code peut, par exemple, très bien prédire la suite d’un programme et avoir davantage de mal sur des textes en français. Le benchmark Paloma montre comment examiner cette variation en publiant des résultats sur 546 domaines de texte anglais et de code. Pour comparer un seuil entre laboratoires, il faudrait convenir des données de test, de la façon de calculer le score et des conditions dans lesquelles un tiers peut le vérifier. Étude Paloma · Étude sur la reproductibilité des évaluations

Le score du modèle de base, la sécurité du système

Un même modèle de base peut être utilisé dans une conversation simple ou piloter un assistant qui lit des fichiers et appelle des outils. Son score de préentraînement reste le même dans les deux cas. Les actions possibles, elles, changent. Les tests de sécurité doivent donc aussi examiner le système tel qu’il sera utilisé, avec ses outils et ses permissions. Si les laboratoires retiennent une mesure commune, sa valeur dépendra autant de la décision qu’elle déclenche que de sa précision. Qui constate le franchissement d’un seuil ? Quels résultats permettent de reprendre l’entraînement ? C’est sur ces deux décisions qu’un accord pourrait changer les pratiques. Cadre d’évaluation des risques d’OpenAI

Références

About Salah YAHIAOUI

Salah YAHIAOUI publie sur The Pingouin des tutoriels Python et des décryptages sur l’intelligence artificielle. Les cas pratiques récents précisent leurs données, leurs tests et leurs limites. À propos, méthode éditoriale et contact.

View all posts by Salah YAHIAOUI →

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. Découvrez comment les données de vos commentaires sont traitées.