Anchor of Intellect est un projet de recherche à long terme initié par Jin Sung. Il explore la manière dont une compréhension fine de la personne, la coopération entre IA et des moyens de maîtrise fiables peuvent progresser ensemble.
Un point d’ancrage, pas une cage
Une aide doit renforcer notre capacité à agir, non s’y substituer discrètement. Un choix n’a rien de réel si le système définit toutes les réponses acceptables, rend le refus coûteux ou empêche de partir.
L’ancrage, c’est une continuité : une mémoire que l’on peut examiner, des pouvoirs que l’on peut limiter, une direction que l’on peut changer.
Faire avancer ensemble l’intelligence et sa maîtrise
Améliorer le raisonnement ne constitue qu’une partie du travail. Il faut aussi des délégations claires, des limites indépendantes, une protection qui intervient à temps et des moyens de rétablir la situation lorsqu’un problème survient.
Le projet commence par une charte en cours d’élaboration : une direction de recherche et un cadre pour interroger les travaux à venir. L’architecture, les éléments de preuve et les questions encore ouvertes doivent se développer à la mesure de cette ambition.
Avec une intelligence plus puissante, quel avenir voulons-nous construire ensemble ?
Cet avenir pourra-t-il préserver ce qui nous est cher tout en élargissant notre liberté de choisir une autre voie ?