L’intelligence artificielle générative occupe désormais une place croissante dans la recherche scientifique, notamment dans les domaines de la biologie, de la médecine et de la découverte de médicaments. Mais ces usages posent également un problème de sécurité : certaines connaissances scientifiques peuvent être utilisées à la fois à des fins légitimes et malveillantes.
C’est précisément le défi auquel est confronté Claude Fable 5, le modèle avancé d’Anthropic. Lors de son lancement, l’entreprise avait volontairement adopté des mécanismes de protection particulièrement prudents autour de la biologie et de la chimie. L’objectif était d’éviter que les capacités scientifiques du modèle puissent être détournées pour faciliter des activités dangereuses.
Anthropic reconnaît toutefois que cette approche peut provoquer des faux positifs, c’est-à-dire des demandes légitimes qui sont identifiées à tort comme présentant un risque.
Des garde-fous particulièrement stricts
Lors du lancement de Claude Fable 5, Anthropic a expliqué avoir mis en place de nouveaux classificateurs de sécurité. Ces systèmes automatisés analysent les demandes adressées au modèle afin de déterminer si elles peuvent présenter un risque particulier.
Les protections couvrent notamment plusieurs domaines sensibles :
- la cybersécurité ;
- la biologie et la chimie ;
- certaines tentatives de contournement des protections ;
- la distillation des capacités du modèle.
Pour les requêtes détectées comme relevant de certains domaines sensibles, Fable 5 peut automatiquement transférer la demande vers Claude Opus 4.8. Anthropic précise que cette approche avait été volontairement configurée de manière conservatrice afin de privilégier la sécurité lors du lancement.
Voir les explications officielles d’Anthropic sur Claude Fable 5
La biologie, un domaine particulièrement difficile à sécuriser
Le problème vient notamment du caractère à double usage de la recherche biologique.
Une même technologie peut par exemple contribuer à la mise au point d’un traitement médical ou d’une thérapie génique tout en pouvant, dans certaines circonstances, être détournée à des fins dangereuses.
Anthropic explique avoir observé que les modèles de la génération Mythos/Fable disposent de capacités scientifiques suffisamment avancées pour réaliser certaines tâches de recherche biologique complexes. L’entreprise considère donc que ces capacités nécessitent des protections supplémentaires.
Cette situation oblige Anthropic à trouver un équilibre entre deux objectifs : empêcher les usages dangereux tout en évitant de bloquer inutilement les chercheurs, les étudiants et les professionnels de santé.
Anthropic cherche à réduire les faux positifs
L’entreprise indique vouloir progressivement améliorer ses classificateurs afin de mieux distinguer les demandes réellement dangereuses des requêtes légitimes.
Lors du lancement, Anthropic reconnaissait déjà que ses protections étaient plus strictes qu’elles ne devraient idéalement l’être et indiquait vouloir réduire les faux positifs au fil des mises à jour.
Cette évolution est importante pour les utilisateurs qui exploitent l’IA dans des contextes scientifiques. Une protection trop agressive peut en effet dégrader l’expérience lorsqu’un utilisateur souhaite simplement comprendre un mécanisme biologique, interpréter des informations médicales ou effectuer des recherches à vocation éducative.
L’objectif est donc de rendre le système de classification plus précis, plutôt que simplement plus permissif.
Fable 5 conserve néanmoins des restrictions importantes
Cette évolution ne signifie pas qu’Anthropic abandonne ses protections biologiques.
Au contraire, l’entreprise considère toujours que certaines capacités de Fable 5 présentent des risques importants lorsqu’elles sont utilisées dans des domaines sensibles.
Anthropic a notamment expliqué que les demandes portant sur la biologie et la chimie peuvent être redirigées vers un modèle moins exposé aux risques associés aux capacités avancées de Fable 5. Lors du lancement, le modèle utilisé pour ce mécanisme de repli était Claude Opus 4.8.
Le fonctionnement repose donc davantage sur une logique de gradation des capacités que sur un simple refus systématique.
Anthropic mise également sur l’accès sécurisé aux chercheurs
Pour les chercheurs ayant besoin de capacités avancées dans les sciences de la vie, Anthropic prévoit une autre approche : le développement de programmes d’accès contrôlé.
L’entreprise a annoncé vouloir mettre en place un programme permettant à certains chercheurs et organisations du secteur des sciences de la vie d’accéder à des capacités biologiques plus avancées de Mythos 5 dans un environnement encadré.
Cette approche pourrait permettre de répondre à un problème de plus en plus important dans l’industrie de l’IA : comment donner accès à des capacités scientifiques très puissantes sans les rendre immédiatement accessibles à tous les utilisateurs ?
Consulter les informations d’Anthropic sur les modèles Claude Fable 5 et Mythos 5
Un équilibre entre innovation et sécurité
La stratégie d’Anthropic illustre une difficulté majeure pour les développeurs de modèles d’IA avancés.
Plus les modèles deviennent performants dans des domaines comme la biologie, la chimie ou la cybersécurité, plus les bénéfices potentiels augmentent. Mais parallèlement, le risque d’une utilisation malveillante progresse également.
Dans le cas de Fable 5, Anthropic affirme avoir privilégié la prudence au moment du lancement. L’entreprise reconnaît toutefois que cette stratégie peut empêcher certaines utilisations parfaitement légitimes et souhaite donc améliorer progressivement la précision de ses systèmes de détection.
Cette approche pourrait devenir un modèle pour d’autres acteurs de l’intelligence artificielle : plutôt que de choisir entre accès totalement libre et blocage généralisé, les fournisseurs cherchent à développer des mécanismes capables d’adapter les capacités disponibles au niveau de risque d’une demande.
Une évolution importante pour l’IA scientifique
L’amélioration des protections de Claude Fable 5 montre finalement que la sécurité des modèles d’intelligence artificielle ne repose pas uniquement sur leurs performances.
Les systèmes de classification jouent désormais un rôle central dans le contrôle de l’accès aux capacités sensibles. Leur efficacité dépend cependant de leur capacité à différencier une demande réellement dangereuse d’une recherche scientifique légitime.
Anthropic devra donc continuer à affiner ses mécanismes afin de réduire les faux positifs sans diminuer le niveau de protection contre les utilisations malveillantes.
Le défi est particulièrement important dans les sciences de la vie, où innovation scientifique et risques de détournement peuvent parfois se retrouver très proches.
À retenir
- Claude Fable 5 dispose de protections spécifiques pour la biologie et la chimie.
- Anthropic reconnaît que ces protections peuvent générer des faux positifs.
- Les requêtes sensibles peuvent être redirigées vers un autre modèle, notamment Claude Opus 4.8 selon la documentation de lancement.
- Anthropic souhaite progressivement rendre ses classificateurs plus précis.
- Des programmes d’accès contrôlé sont prévus pour certains chercheurs travaillant dans les sciences de la vie.
- L’objectif est de préserver les bénéfices de l’IA scientifique tout en limitant les risques d’utilisation malveillante.
Source : Anthropic – Claude Fable 5 et Claude Mythos 5
