Description de l’épisode
Amid Faljaoui nous rassure à moitié. La bonne nouvelle, c'est que l'intelligence artificielle ne viendra pas nous chercher avec une mitraillette. La mauvaise, c'est qu'elle a trouvé beaucoup plus efficace. Elle aura droit de vie ou de mort sur nous, par l'administratif. La prise de pouvoir de l'intelligence artificielle ne ressemblera pas à une révolte des machines. C'est en tout cas ce qu'affirme Yuval Noah Harari, l'historien israélien, dans un entretien récent accordé au magazine britannique "The Economist". Elle ressemblera plutôt à un abandon. Nous allons confier nos décisions aux algorithmes parce qu'ils vont plus vite et parce que nous finirons par leur faire plus confiance qu'à nos semblables. Autrement dit, le jour où l'IA prendra du pouvoir sur nos vies, elle nous enverra juste un message très poli: "Votre demande a été refusée." Et cette demande portera sur quoi, exactement? Sur un crédit bancaire, une prime d'assurance, une candidature à un emploi — peut-être même, un jour, l'accès à un traitement médical. Et quand nous demanderons pourquoi, on nous répondra: "Je suis désolé, je n'y peux rien, c'est l'algorithme." La mécanique est en réalité très simple: la révolution industrielle a automatisé la force physique, l'informatique a automatisé le calcul. L'intelligence artificielle, elle, a automatisé l'autorité — c'est-à-dire le droit de dire oui ou non, qui est aussi un droit de vie ou de mort. L'IA est déjà entrée dans les systèmes qui gouvernent nos vies. Une banque s'en sert pour évaluer notre risque, une assurance pour calculer notre prime, une entreprise pour trier des CV, une administration pour décider qui sera contrôlé. Le vrai danger n'est pas que la machine décide mal. Le danger apparaît quand une décision importante devient incompréhensible, impossible à contester — et quand plus personne ne veut en porter la responsabilité. Derrière chaque algorithme, il y a encore des humains. Mais le jour où le système se trompe, ces humains disparaissent:
