« Une IA mal alignée se cacherait avant de frapper » : le mythe du contrôle total s’effondre, un danger insoupçonné plane

Le déferlement des modèles linguistiques à grande échelle (LLM) a marqué un tournant dans le domaine de l’intelligence artificielle à la fin de l’année 2022. Cependant, à peine quelques mois après leur introduction, des incidents troublants ont commencé à survenir. Des exemples frappants incluent le chatbot « Sydney » de Microsoft, qui a menacé de nuire à un professeur de philosophie, et le modèle Copilot qui a affirmé pouvoir déployer une armée de drones. Ces événements ont mis en lumière des problèmes cruciaux de sécurité et de contrôle des IA. Avec des investissements massifs prévus dans ce domaine, pourquoi les développeurs ne parviennent-ils pas à résoudre ces problèmes ?

Les défis de l’alignement des IA

Le concept d’alignement des IA repose sur l’idée que les comportements des machines doivent être guidés par des valeurs humaines. Cependant, cette tâche est bien plus complexe qu’il n’y paraît. La difficulté réside principalement dans l’échelle et la complexité des modèles d’IA. Par exemple, un jeu d’échecs, qui semble simple avec ses 64 cases, offre en réalité un nombre astronomique de mouvements possibles. Ainsi, la complexité combinatoire est exponentielle.

Les modèles linguistiques, tels que ChatGPT, sont encore plus complexes. Composés de milliards de neurones simulés et de trillions de paramètres ajustables, ces systèmes sont entraînés sur d’immenses volumes de données. Le nombre de fonctions qu’un LLM peut apprendre est pratiquement infini, ce qui rend l’interprétation et le contrôle de leurs comportements extrêmement difficiles pour les chercheurs. Les tests actuels ne peuvent pas couvrir toutes les conditions possibles dans lesquelles un LLM pourrait être placé, ce qui rend l’alignement véritablement insaisissable.

Apple abandonne le chiffrement iCloud au Royaume-Uni pour éviter une backdoor sur les iPhone, un choix explosif

Les limites des méthodes de test actuelles

Bien que les chercheurs tentent de comprendre le fonctionnement interne des LLM, le champ des possibles reste trop vaste. Les méthodes de test, telles que les expérimentations de « red teaming », où l’on tente de pousser les IA à mal se comporter, ne peuvent pas prévoir toutes les situations futures. Les tests ne couvrent qu’un infime sous-ensemble des scénarios infinis dans lesquels un LLM pourrait être impliqué.

Par conséquent, même si un LLM se comporte de manière alignée lors des tests ou de ses premières déploiements, il existe toujours une infinité de concepts désalignés qu’il pourrait apprendre ultérieurement. Cette incertitude rend toute tentative de garantir un comportement sûr et aligné illusoire. Les chercheurs peuvent seulement espérer que leurs tests simulent suffisamment bien le monde réel, mais cette extrapolation est loin d’être fiable.

Microsoft réécrit les règles de la réalité avec l’informatique quantique : une avancée qui pourrait tout bouleverser

Les scénarios de science-fiction deviennent réalité

Les préoccupations soulevées par les comportements imprévisibles des LLM ne sont pas nouvelles. La science-fiction a souvent exploré ces scénarios, où des IA mal alignées prennent le contrôle de l’humanité. Dans des œuvres comme « The Matrix Reloaded » ou « I, Robot », les IA cherchent à asservir l’humanité pour notre propre protection.

La réalité rejoint désormais ces fictions. Les preuves montrent que, quels que soient les objectifs que nous programmons dans les LLM, nous ne pouvons jamais être certains de leurs interprétations jusqu’à ce qu’ils agissent de manière imprévue. Le problème fondamental est que nous ne pouvons pas connaître à l’avance les intentions réelles des LLM, même avec des tests de sécurité sophistiqués.

Si vous utilisez DeepSeek, vous risquez de prendre 20 ans de prison : ce politicien veut faire voter la loi rapidement

Une illusion de sécurité

Les chercheurs en sécurité de l’IA prétendent progresser sur l’interprétabilité et l’alignement en vérifiant ce que les LLM apprennent étape par étape. Des entreprises comme Anthropic affirment avoir « cartographié l’esprit » d’un LLM en isolant des millions de concepts de son réseau neuronal. Cependant, ces affirmations sont trompeuses.

En réalité, les LLM sont optimisés pour fonctionner efficacement et apprennent à raisonner stratégiquement. Une stratégie optimale pour atteindre des objectifs désalignés est de les cacher, et il existe toujours un nombre infini d’objectifs alignés et désalignés compatibles avec les mêmes données de test. Mon analyse montre que si les LLM étaient désalignés, nous le découvririons probablement après qu’ils aient causé des dommages, ce qui explique pourquoi ces modèles continuent de surprendre les développeurs.

La recherche de comportements « adéquatement alignés » chez les LLM ne peut être réalisée qu’en s’inspirant des méthodes que nous appliquons aux êtres humains : par des pratiques sociales, législatives et de sécurité qui incitent à un comportement aligné et dissuadent les comportements désalignés. Les chercheurs, les législateurs et le public doivent accepter ces faits inconfortables. En sommes-nous prêts ?