Résolution: La responsabilité des géants de la tech
Lors d’une conférence nationale sur l’intelligence artificielle (IA) et l’éthique, les membres syndicom du secteur TIC ont adopté le 1er novembre 2019 une résolution dans laquelle nous exigeons entre autres que les armes dotées de logiciels d’IA soient interdites.
Responsabilité des géants de la tech: focus sur l’IA et les droits humains
Résolution du secteur TIC de syndicom
Les révélations concernant le projet Nimbus, dans lequel l’État d’Israël a conclu des contrats avec Amazon et Google sur des services de cloud, ont soulevé des questions sur l’utilisation des technologies IA.
Des recherches de médias montrent que le ministère de la Défense israélien aurait chargé Google de fournir des services de cloud. Google aurait par ailleurs négocié un approfondissement du partenariat depuis le début de la guerre. Dans le contexte de l’utilisation des systèmes d’IA«Lavender» et «Gospel» par l’armée israélienne, il est urgent de remettre en question ce genre de contrats. Les systèmes de ciblage de l’IA semblent avoir été utilisés de sorte qu’un grand nombre de victimes civiles aient été acceptées.
À ce stade, syndicom souhaite rappeler que les droits fondamentaux et humains ainsi que les principes constitutionnels et démocratiques doivent être protégés, respectés et accompagnés de mécanismes correctifs lorsque l’IA est utilisée. Les systèmes d’IA totalement autonomes ne sont pas défendables d’un point de vue éthique. Il faut que des humains soient impliqués; l’être humain doit rester responsable. syndicom partage les préoccupations des employé-e-s de Google, qui dénoncent l’utilisation abusive des technologies développées par leurs soins à des fins d’oppression ou de guerre.
Nous appelons donc les entreprises comme Google à assumer leurs responsabilités tout au long de la chaîne de livraison et de valeur pour garantir que leur technologie ne viole pas les droits humains ni n’exacerbe les conflits. Il est indispensable que les entreprises de la tech telles que Google soient transparentes et s’engagent publiquement à respecter des principes éthiques qui garantissent que leurs produits et services ne peuvent pas être utilisés à mauvais escient pour soutenir l’oppression ou la violence.
Les employé-e-s de ces entreprises devraient par ailleurs être informés de l’usage du code qu’ils développent. Les employé-e-s qui défendent ces principes ne doivent pas subir pour cette raison des désavantages professionnels.
Enfin, la politique a le devoir de réguler les systèmes d’IA – si possible au niveau planétaire.
