L'alignement des planètes

Je suis né en 1981, j'ai commencé à bricoler du code vers 1988 sur un Amstrad à écran monochrome vert, qui chargeait ses logiciels depuis des cassettes audio.

Ensuite, est arrivé internet. On discutait des heures sur IRC, on codait pour customiser nos petits logiciels. On se passait la dernière édition de Phrak, un magazine underground, de la main à la main. J'étais fasciné par le manifeste du hacker (à lire une fois dans votre vie).

Il y avait une philosophie derrière ce qu'on faisait, une idée de liberté.

Local ou cloud

Aujourd’hui, quand on parle d'Intelligence Artificielle, tout le monde parle puissance de calcul.

Quand on veut "faire de l'IA", il faut de la puissance de calcul. On peut en trouver de deux façons :

• en payant une API, comme celle d'Anthropic (Claude) ou d'OpenAI (ChatGPT),
• en s'équipant d'une bécane (on disait comme ça à l'époque) bien musclée, qui reste au chaud à la maison ou dans un datacenter de confiance.

Chat échaudé craint l'eau froide

À la fin des années 90, tous les hackers parlaient d'Echelon. Ce système, au croisement de la légende urbaine et de la théorie du complot, c'était un monstre tentaculaire, opéré par plusieurs gouvernements, et qui avait la capacité d'espionner les conversations privées, notamment téléphoniques, à grande échelle.

Sauf qu'en 2001, une commission du Parlement européen conclut qu'Échelon existe bel et bien, et que le système d'interception est tout à fait capable de surveiller les communications privées de citoyens libres (dans le fameux rapport A5-0264/2001), avec un risque réel d'atteinte à la vie privée. Hier, on interceptait les câbles sous-marins. Aujourd'hui, on a juste changé de méthode.

Avance rapide : la militarisation des API Cloud

Je vous la fait courte, mais on a assisté à une escalade assez dingue.

Au départ, le gouvernement américain utilisait Claude. Le Pentagone a mis un coup de pression à Anthropic (la boîte qui édite Claude), qui refuse que ses IA soient utilisées pour la guerre. Trump a donc décidé de les virer, et de les remplacer par OpenAI, qui déploiera ses modèles sur le réseau classifié du "Département de la Guerre".

Ça s'est passé la veille au soir de l'attaque par les États-Unis de l'Iran.

Sam Altman (le patron d'OpenAI) a fanfaronné sur Twitter qu'il avait "imposé ses conditions", comme par exemple que "l'IA ne peut pas diriger seule des systèmes d'armes létaux". Human in the loop, on t'a dit. Mais en gros, l'IA identifie la cible, pilote le drone, et demande à un humain d'appuyer sur le bouton rouge. Beau moyen de pouvoir dire que l'IA n'est pas responsable.

Pareil, dormez tranquille, le gouvernement n'a "pas le droit d'utiliser les IA d'OpenAI pour faire du crédit social sans supervision". Tant que c'est supervisé, ça va.

Et comme si ça ne suffisait pas, l'histoire vient littéralement de déborder dans le monde physique. Cette semaine, des drones iraniens ont frappé des datacenters d'Amazon (AWS) aux Émirats Arabes Unis et à Bahreïn. Bilan : des installations en feu, le courant coupé par les pompiers, et le modèle Claude d'Anthropic (qui tourne sur ces serveurs) dans les choux au niveau mondial. C'est la première fois dans l'histoire qu'un datacenter commercial est physiquement bombardé comme un objectif militaire stratégique, au même titre qu'un puits de pétrole ou une base aérienne.

Et pour boucler avec l'édition précédante : Peter Steinberger, le créateur d'OpenClaw, a été embauché par OpenAI.

Revenons à nos moutons (électroniques)

C'est là que la boucle se boucle. Quand vous branchez vos systèmes, vos bases de données, vos emails, sur des systèmes étrangers à votre organisation, vous ne pouvez décemment pas vous attendre à ce que ça ne se retourne jamais contre vous.

L'API, c'est la nouvelle table d'écoute, et son infrastructure est une cible militaire. Et c'est nous qui branchons le micro. Une donnée sortie, c'est une donnée perdue.

Ce n'est plus seulement une paranoïa de hacker nostalgique, c'est une question de survie business et de protection des secrets industriels. C'est précisément pour ça qu'il est grand temps de se demander si l'inférence en local ne serait pas le seul moyen d'être tranquille. Il existe une tonne de modèles open source (qui ne peuvent techniquement pas envoyer d'infos à qui que ce soit), que vous pouvez faire tourner en vase clos.

Et la bonne nouvelle, c'est que la souveraineté n'exige plus de sacrifier les performances. Le "local" n'est plus synonyme de "petit".

Les planètes s'alignent

Pendant qu'on constate, dans le feu et dans le sang, qu'une AI externe n'est pas la panacée que nous promettait sa facilité d'utilisation, les planètes se sont alignées, puisqu'on bosse sur des chantiers de souveraineté.

C'est justement ce que j'ai passé la semaine dernière à mettre en place, pour une structure marseillaise, sur la machine la plus puissante sur laquelle il m'a été permis de me connecter, largement, et de toute ma vie (on en parlera plus tard). Toute la puissance du Cloud, mais avec les clés de la maison bien au chaud dans la poche.

En tout cas, une saine paranoïa est peut-être de rigueur : devant les nouveaux jouets qui sortent chaque jour, on a les yeux qui brillent, et on risque parfois d'oublier que nos choix peuvent avoir des conséquences dans le vrai monde...

... after all, we're all alike.