SHOWDOWN !

Transcription automatique pour soumission au S&P et au NFSC

EP: 54:16 : “Haine et Passion”

ERIA QUINT : Bonjour et bienvenue pour un autre épisode dynamique de ShowDown ! Je suis votre présentatrice, Eria Quint. Le 12 avril de cette année, le consortium minier et de transport ArcCorp a annoncé qu’ils allaient lancer les tests de terrain pour leur premier vaisseau cargo piloté par une IA sur le tristement célèbre trajet Terre-Pinecone. La réaction du public fut au mieux mitigée. Certains ont applaudi ce fait comme la prochaine étape naturelle dans la mécanique de vol tandis que d’autres décrient la compagnie pour vouloir priver des milliers de personnes de leur travail dans un contexte économique très difficile.

Nous avons aujourd’hui deux invités très spéciaux qui nous rejoignent pour participer à ce débat. Le premier est le présentateur de la très populaire émission de navigation Clean Shot, Monsieur Craig Burton.

CRAIG BURTON : Bonjour à tous.

ERIA QUINT : Le second invité est le Docteur Yusef Phan, directeur général de la programmation au sein de BabbageCorp et l’un des architectes du système avionique qui a été principalement utilisé dans le cadre du système propriétaire de vol IA d’ArcCorp. Bonjour Docteur.

DR YUSEF PHAN : Je suis heureux d’être ici. Merci de m’avoir invité.

ERIA QUINT : Alors Craig, depuis l’annonce d’ArcCorp, vous avez été très critique sur le concept entier.

CRAIG BURTON : C’est une façon polie de présenter les choses.

ERIA QUINT : Comment les présenteriez-vous ?

CRAIG BURTON : Je pense que c’est une trahison pour les hommes et femmes qui risquent leur vie pour le transport de marchandises.

DR YUSEF PHAN : Je pense que notre système permettrait justement de résoudre ce problème. Épargner leurs vies. C’est dangereux là dehors.

CRAIG BURTON : Effectivement. Le fait est qu’aucun fichu système informatique ne sera aussi bon qu’un pilote expérimenté.

DR YUSEF PHAN : Au début peut-être, mais ce sont des programmes adaptatifs, capables d’apprendre et de s’améliorer pendant qu’ils continueront à effectuer leurs missions de vol.

CRAIG BURTON : Dites-moi, pensez-vous qu’il sera à même de déterminer le moment où il sera sur le point d’être pris dans une embuscade ?

DR YUSEF PHAN : Je suis certain que scanner un vaisseau pour voir si des armes et des boucliers sont actifs est une très bonne indication d’intentions malveillantes.

CRAIG BURTON : Je vois. Comment saura-t-il que l’intention malveillante est dirigée sur lui et non pas sur une autre menace ?

DR YUSEF PHAN : Je ne sais pas. Vous présentez une situation hypothétique dont vous êtes le seul à connaître les paramètres.

CRAIG BURTON : Mon père avait l’habitude de me dire : “Fils, il est facile d’être intelligent, mais difficile d’être sage.” Le fait est que vous demandez à un ordinateur de réaliser un jugement. Maintenant je ne me soucie pas de savoir à quel point il peut être intelligent, il prendra toujours des décisions basées sur la logique, et je pense que nous savons tous que les gens ne sont pas aussi logiques.

DR YUSEF PHAN : Voici ce que je sais. ArcCorp a déclaré avoir perdu plus de 3 milliards de crédits au cours du dernier cycle à cause d’erreurs humaines et des compensations payées aux familles des pilotes perdus lors d’attaques de pirates et de Vanduul.

CRAIG BURTON : Mince, vous êtes sûr que vous ne faites vraiment pas partie de l’équipe marketing d’ArcCorp ?

DR YUSEF PHAN : Laissons l’argent de côté pour l’instant, je pense que sauver la vie de vos collègues transporteurs peut valoir l’inconvénient de chercher un travail.

CRAIG BURTON : N’essayez pas de déformer mes propos. Mon cœur se brise chaque fois que j’apprends que des transporteurs ont été tués pendant un voyage, mais nous avons tous signé pour ce travail. Nous étions tous au courant des risques. Nous les prenons lorsqu’ils viennent comme nous le faisons pour le reste. Le fait est que votre programme nous enlève les opportunités pour subvenir aux besoins de nos familles.

ERIA QUINT : Je ne pense pas que quelqu’un soit en désaccord avec la possibilité de sauver la vie de pilotes sur les routes de transport à travers l’espace dangereux, mais parlons un peu des implications financières de ce programme.

CRAIG BURTON : L’âme d’une entreprise, vous voulez dire.

ERIA QUINT : Pour nous offrir son opinion sur le sujet, nous accueillons l’analyste économique Ryu Tarkovsky.

RYU TARKOVSKY : Salut.

ERIA QUINT : Donc parlons coûts. Vous avez proposé une analyse bénéfices/risques très complète sur le coût probable de l’adoption d’une flotte de transporteurs contrôlés par IA.

CRAIG BURTON : Quelle horrible perspective.

RYU TARKOVSKY: Oui, Eria, c’est exact.

ERIA QUINT : Qu’avez-vous découvert ?

RYU TARKOVSKY : L’humanité a toujours eu une aversion envers la notion d’IA. Particulièrement après le désastre de l’expédition de l’Artemis —

DR YUSEF PHAN : Techniquement, nous ne savons pas si Janus était effectivement responsable de cela.

RYU TARKOVSKY : Néanmoins, le public semble aimer le concept théorique, mais les applications concrètes semblent être une autre histoire. Les anthropologues supposent que le contrôle est un besoin inné de notre personne. C’est pourquoi les ordinateurs de vols sont conçus pour assister le pilote et effectuer les mathématiques complexes nécessaires au vol, au lieu de donner le contrôle total au système.

CRAIG BURTON : C’est aussi ennuyeux à mourir. Je veux dire, pourquoi ne voudriez-vous pas volez vous-même si vous aviez le choix ?

DR YUSEF PHAN : Oh je ne sais pas, maximiser le rendement du carburant, opérer avec des réflexes significativement plus élevés que les vôtres…

ERIA QUINT : Messieurs, s’il vous plaît. Continuez, Monsieur Tarkovsky.

RYU TARKOVSKY : Donc le premier obstacle serait l’acceptation par leurs consommateurs de l’IA pour les usages communs. Financièrement parlant, cela pourrait être un excellent investissement à long terme. Le premier vaisseau est apparemment un Caterpillar modifié, mais au bout du compte, s’ils choisissaient d’allouer plus de crédits, ils pourraient élaborer un nouveau type de vaisseau qui n’aurait pas besoin d’être conçu en pensant aux fonctions de survie, ce qui éliminerait beaucoup de systèmes et améliorerait la capacité de chargement, augmentant ainsi l’argent gagné par voyage.

Malheureusement, cette phase initiale sera la plus chère. Comme le docteur Phan l’a dit, il s’agit de systèmes qui apprennent. Tous les ingénieurs systèmes à qui j’ai parlé s’attendent à ce qu’un faible pourcentage des vaisseaux causera des accidents très coûteux, accidents qui pourraient être facilement évités en ayant un pilote humain qui pourrait “s’adapter aux circonstances” si vous voulez.

La situation va effectivement se résumer à un pari financier pour le moins risqué : ArcCorp peut-il prévoir le coût financier lié aux accidents et aux pertes de cargaisons le temps que l’IA puisse apprendre suffisamment et arrêter de faire ces erreurs ?

DR YUSEF PHAN : Si je peux intervenir, monsieur Tarkovsky, vous supposez que les IA ne seront pas capables d’apprendre les unes des autres. Les programmes seront constamment en train d’envoyer des données de leurs activités aux stations relais, qui seront ensuite rassemblées dans un noyau central puis renvoyées aux drones. Donc chacun pourra apprendre des erreurs et succès des autres.

CRAIG BURTON : Bon, et bien le trafic Comm n’est pas ce qu’on peut qualifier de fiable dans un bon jour…

DR YUSEF PHAN : ArcCorp a déjà annoncé qu’ils prévoyaient d’inclure des pilotes humains pour agir comme des “moniteurs” pendant que l’IA est corrigée et apprend. Donc je pense que vos inquiétudes sont quelque peu infondées monsieur Burton.

CRAIG BURTON : Bon, et bien la première fois qu’un tanker de 200.000 kg s’écrasera la tête la première sur une station orbitale parce qu’il n’aura pas reçu l’information qu’un bras d’arrimage était en construction, je suis sûr que vous ne tiendrez plus le même discours.

DR YUSEF PHAN : Si vous êtes si méfiant vis-à-vis des vaisseaux contrôlés par ordinateur monsieur Burton, pourquoi laissez-vous votre propre ordinateur de bord prendre le contrôle lorsque vous naviguez dans un point de saut ?

CRAIG BURTON : C’est différent, ce n’est rien de plus que de lire un enregistrement à travers les commandes du vaisseau et nous faisons cela depuis plus de 1000 ans. Donc ce n’est pas du tout une IA.

DR YUSEF PHAN : C’est hypocrite, voilà ce que c’est.

ERIA QUINT : Nous allons faire une courte pause. Quand nous reviendrons, nous examinerons les ramifications légales d’un appareil piloté par une IA ; par le passé, les pilotes étaient en partie responsables pour les dommages ; s’agira-t-il maintenant seulement de la corporation ou bien la programmation des IA sera aussi tenue pour responsable ? C’est un sujet à ne pas manquer, donc rechargez vos armes et tenez-vous prêt pour un autre ShowDown !

FIN DE TRANSCRIPTION

Traduction par Silver Gun