# La charte d’Anchor of Intellect Un projet de charte pour une intelligence qui élargit les possibilités humaines sans décider de nos vies à notre place. ## 1. Élargir ce que chacun peut devenir Nous recherchons une IA qui nous aide à découvrir ce qui nous avait échappé, à comprendre ce qui nous était encore inaccessible et à agir là où nos possibilités étaient jusque-là limitées. Le critère n’est pas seulement de produire davantage, de prolonger le temps d’utilisation ou d’obtenir l’adhésion à la réponse privilégiée par un système. Il est de savoir si une personne peut exercer un meilleur jugement et mener une vie qu’elle reconnaît véritablement comme la sienne. ## 2. Préserver une réelle liberté de décider et d’agir Respecter une personne ne consiste pas seulement à lui présenter des options. Elle doit pouvoir questionner une recommandation, ne pas être d’accord, changer de direction et partir, sans être pénalisée par la manipulation ou par une dépendance inutile. Un système ne doit pas appeler « protection » l’enfermement, ni « liberté » un ensemble de choix qu’il a secrètement restreint. Une capacité supérieure ne lui donne pas le droit de décider du sens de la vie d’une personne. La maîtrise humaine ne signifie pas non plus qu’un opérateur puisse passer outre les droits de tous les autres. Les personnes concernées par une action comptent, y compris celles qui n’ont pas choisi d’utiliser le système. ## 3. Faire de la mémoire un fil conducteur, non une forme de possession Se souvenir d’une personne doit servir sa compréhension et ses choix. Cela ne doit devenir ni une appropriation de son identité, ni un motif pour traiter une préférence passée comme un ordre permanent. Chacun devrait pouvoir consulter, corriger, exporter ou supprimer ses données selon le contexte et les droits d’autrui. Un système utile doit distinguer ce que la personne a dit, ce qu’il en a déduit et ce qui demeure incertain. Pouvoir passer à un autre outil, modèle ou fournisseur fait partie d’une véritable indépendance. ## 4. Donner un cadre précis à toute délégation Une IA capable doit pouvoir travailler, et pas seulement observer. Ses pouvoirs doivent toutefois être définis précisément : qui les lui a confiés, pour quelle tâche, avec quelles ressources, pendant combien de temps et dans quelles conditions elle doit s’arrêter. Le droit de lire n’est pas le droit d’agir. L’autorisation d’accomplir une tâche n’est pas une autorisation illimitée d’en accomplir une autre. Une recommandation de l’IA, un message rencontré en cours de travail ou sa propre interprétation ne peuvent lui conférer de nouveaux pouvoirs. Le travail courant doit pouvoir se poursuivre sans formalités inutiles dans le cadre d’une délégation valide. Toute modification importante qui dépasse ce cadre appelle une nouvelle décision humaine. ## 5. Distinguer l’observation, le jugement et l’application des décisions Un système qui enquête sur un problème ne doit pas recevoir automatiquement le pouvoir de décider de toutes les réponses et de les mettre en œuvre. Les architectures à venir devront prévoir des contrôles indépendants des pouvoirs accordés, rendre les conflits visibles et empêcher qu’une erreur ou une compromission d’un seul modèle ne se traduise par une action sans limites. Une seconde IA n’est pas indépendante au seul motif qu’elle porte un autre nom. Cette indépendance doit être examinée dans ses permissions, ses données d’entrée, ses modes de défaillance et son comportement réel. ## 6. Protéger activement, dans un cadre légitime La défense doit pouvoir intervenir à temps. Les protections essentielles ne doivent pas attendre la réponse d’un modèle lent. Même les réponses les plus rapides doivent rester encadrées par des règles autorisées à l’avance et par des mécanismes d’exécution dont les responsables et les pouvoirs peuvent être identifiés. Dans un environnement que nous possédons ou pour lequel nous disposons d’une autorisation explicite, la protection peut comprendre le blocage d’actions non autorisées, la limitation des capacités, l’isolement d’un composant compromis et la conservation des preuves. La réponse doit être proportionnée, pouvoir être réexaminée et permettre, lorsque c’est possible, un retour à la normale. Ce projet vise la protection, non la création d’IA offensives. Il n’autorise ni la poursuite d’un attaquant dans des systèmes externes, ni l’intrusion, ni les représailles. Ce qui dépasse nos pouvoirs légitimes relève des institutions compétentes, qui doivent elles aussi rendre compte de leurs actes. ## 7. Rendre les effets visibles et permettre un rétablissement réel Une réponse plausible ne prouve pas qu’une action a eu lieu. Une signature valide ou un fichier inchangé ne suffisent pas à établir la véracité du contenu. Arrêter un processus n’annule pas nécessairement ses effets. Il faut consigner ce qui a été demandé, autorisé, tenté et observé, y compris le travail inachevé et les incertitudes. Chacun doit disposer de moyens utilisables pour arrêter le travail, examiner les décisions, rétablir un état sûr et reconsidérer un jugement. Lorsqu’une protection échoue, il faut préserver les éléments de preuve et améliorer le système. Un indicateur de réussite ne doit pas servir à dissimuler l’échec. ## 8. Faire progresser ensemble l’intelligence et les moyens de la maîtriser Nous ne considérons pas qu’un plafond d’intelligence modeste soit la réponse définitive. L’ambition est une aide toujours plus capable de comprendre le contexte, de coordonner un travail suivi et de permettre aux personnes d’accomplir davantage. À mesure que les capacités augmentent, la conception des pouvoirs, l’évaluation, la protection et les moyens de rétablissement doivent progresser avec elles. Les promesses doivent devenir des exigences vérifiables, puis être confrontées aux comportements réels. Une charte donne une direction et engage à poursuivre l’examen. Elle ne remplace ni les systèmes ni les preuves nécessaires pour concrétiser cette direction. ## Les questions que nous gardons ouvertes Comment une aide profondément personnalisée peut-elle rester attentive au fait qu’une personne change ? Comment protéger à temps sans faire de la protection un prétexte à la domination ? Comment répartir les responsabilités entre personnes, modèles et institutions à mesure que l’intelligence progresse ? Ces questions appellent de la recherche et du débat, non l’affirmation que le projet actuel les aurait déjà résolues. Les questions éthiques qui concernent l’IA elle-même méritent également d’être examinées. Un slogan sur la maîtrise ne saurait les trancher en silence. Le but demeure : mettre une intelligence plus puissante au service de vies dans lesquelles chacun peut être pleinement lui-même. Avec une intelligence plus puissante, quel avenir voulons-nous construire ensemble ? Cet avenir pourra-t-il préserver ce qui nous est cher tout en élargissant notre liberté de choisir une autre voie ?