Actualités / Jeux

Le Red Teaming Network d’OpenAI déployé pour le développement de ses modèles

Le Red Teaming Network d'OpenAI déployé pour le développement de ses modèles

OpenAI a été très actif et a des projets ambitieux pour l’avenir. Gardant cet esprit à l’esprit, ils ont lancé un réseau OpenAI Red Teaming. Cela contribuera à faire de l’IA un outil plus puissant et plus efficace. Le fabricant de ChatGPT, Open AI, a récemment nommé OpenAI Red Teaming Network. Ce réseau comprend un groupe d’experts qui ont été recrutés pour aider à évaluer, repérer et atténuer les risques repérés dans les modèles d’IA d’OpenAI.

https://www.youtube.com/watch?v=–khbXchTeE

Dans le monde de l’IA, la red teaming n’est pas un concept nouveau. Elle est devenue une partie intégrante ainsi qu’une étape clé du développement de l’IA, à mesure que l’IA devient un outil de plus en plus courant. Avec l’aide de l’équipe rouge, les fabricants peuvent découvrir les biais de leurs modèles d’IA. Par exemple, DALL-E 2, un produit OpenAI, s’est avéré amplifier les stéréotypes autour de la race et du sexe. L’équipe rouge peut même aider à comprendre les invites qui inciteront ChatGPT et GPT-4 à ignorer leurs filtres de sécurité.

A lire aussi : ChatGPT Enterprise : OpenAI révèle « la version la plus puissante de ChatGPT » à ce jour

S’exprimant à ce sujet, OpenAI a reconnu le fait qu’elle s’était également associée plus tôt à des experts externes pour tester et approuver ses modèles. Dans le passé, la société a hébergé son programme de bug bounty et son programme d’accès aux chercheurs.

Avec l’OpenAI Red Teaming Network, l’entreprise prévoit de renforcer ses efforts et souligne qu’elle souhaite aller dans le sens d’« approfondir » et d’« élargir » le travail qu’OpenAI réalise avec les scientifiques, les instituts de recherche et la société civile. organisations.

A lire aussi : OpenAI, Meta et Tesla veulent désespérément ce GPU Nvidia, mais pourquoi ?

ChatGPT

Dans un article de blog, OpenAI déclare : « Nous considérons ce travail comme un complément aux pratiques de gouvernance spécifiées en externe, telles que les audits tiers. » Il précise en outre : « Les membres du réseau seront sollicités, en fonction de leur expertise, pour aider l’équipe rouge à différentes étapes du cycle de vie de développement de modèles et de produits. »

Noter cet article

Articles en lien