Dario Amodei, directeur général d’Anthropic, demande une réduction du rythme de développement de l’intelligence artificielle, évoquant des risques de dégâts massifs et la nécessité de mieux contrôler des systèmes toujours plus autonomes.
Vous devez vous être connecté ou enregistré pour commenter.
Rappelons qu’Amodei chiffrait lui-même en 2024 à 10-25 % le risque d’une issue catastrophique, alors qu’Amazon a engagé 8 milliards de dollars chez Anthropic et que la puissance de calcul des modèles frontières quadruple à peu près chaque année. On ne freine pas un train en y attelant des wagons supplémentaires.
Autour de moi, à Lille, celles et ceux qui développent des modèles sont surtout des petites équipes qui courent après leur prochain financement : leur demander de ralentir revient un peu à leur demander de disparaître. Ce qui circule ici, ce sont plutôt des appels à encadrer les usages du côté de la Cnil ou des syndicats, pendant que la métropole continue de vendre des hectares pour des datacenters.
Ralentir. Dit par celui qui vend la chose. Touchant. Bien sûr qu’on ne ralentira pas : les marchés trépignent, les concurrents écrasent l’accélérateur, et personne ne veut être celui qui a freiné le premier. Alors on signera de belles tribunes, on créera un comité d’éthique, et dans dix ans on comptera les dégâts en jurant qu’on ne pouvait pas savoir.
Ralentir. Bien sûr. Pendant que chez moi la librairie du centre a fermé et que la mairie répond par un chatbot qui ignore le nom des rues. Ils courent, empochent, puis découvrent la prudence. Magnifique. On attend quoi, une commission ? Pendant ce temps, les agents autonomes gèrent déjà les plaintes des administrés. Eux, au moins, ne râlent pas.
