Association for Free Research and International Cooperation

La tech au service des états policiers, vers un risque de réduction des libertés civiles

02.04.2019
Lire l'original de l'article sur: Slate.fr
La reconnaissance faciale, la 5G ou l’informatique quantique commencent à soulever des inquiétudes quant à la possibilité de les appliquer à des fins militaires. Certaines innovations technologiques permettent la mise en place de méthodes de contrôle allant à l’encontre des droits humains.

Inquiétantes collaborations

En quête de financements et de données, des sociétés étrangères se sont précipitées pour proposer des partenariats, sans se soucier de la manière dont leur technologie allait être utilisée, au Xinjiang ou ailleurs.

En février 2018, le Massachusetts Institute of Technology (MIT) a annoncé un vaste partenariat de recherche avec SenseTime, géant chinois de l’intelligence artificielle et leader mondial de la reconnaissance faciale.

Ce vaste maillage soulève bien des questions en matière de sécurité nationale et de moralité. Les technologies à double usage sont des technologies pouvant être utilisées tant à des fins civiles que militaires; en tant que telles, elles font l’objet de contrôles plus stricts. Le nucléaire ou le GPS en sont des exemples classiques, mais les nouvelles technologies telles que la reconnaissance faciale, la réalité augmentée, la réalité virtuelle, la 5G ou l’informatique quantique commencent à soulever des inquiétudes quant à la possibilité de les appliquer à des fins militaires.

Outre SenseNets, le leader chinois de la reconnaissance vocale iFlytek pourrait aussi fournir aux autorités chinoises un logiciel permettant de surveiller les communications électroniques dans le Xinjiang. Un brevet déposé en 2013 par iFlytek et repéré par Human Rights Watch vantait notamment sa capacité à «surveiller l’opinion publique». Malgré cela, comme SenseTime, iFlytek a récemment conclu un partenariat de plusieurs années avec le MIT. Les partenariats de ce type ont pour effet de conférer un poids certain et une réputation honorable à des activités permettant de lutter contre les libertés individuelles à l’étranger.

Il est tout aussi inquiétant de constater que les détails de ces collaborations avec des sociétés chinoises peuvent être cachés aux partenaires internationaux, afin de masquer des activités discutables sur le plan éthique.

Le jour où Kenneth Kidd, généticien à l’université de Yale, a partagé des échantillons d’ADN avec un collègue scientifique de l’Institut des sciences judiciaires du ministère chinois de la Sécurité publique, il ignorait totalement qu’ils allaient servir à affiner les techniques de surveillance génétiques dans le Xinjiang.

La société américaine Thermo Fisher, installée dans le Massachusetts, est également impliquée: avant que cela ne soit dévoilé en février 2019, la société vendait des séquenceurs d’ADN directement aux autorités chinoises, pour faire de la cartographie génétique.

Besoin de normes mondiales

Les sociétés et institutions occidentales doivent être beaucoup plus vigilantes quant à la manière dont leurs partenaires  utilisent leurs produits, en particulier lorsqu’il s’agit de technologies émergentes. La reconnaissance faciale est un bon point de départ. Il faut que le secteur mette en place des normes mondiales afin d’en encadrer les applications –c’est-à-dire de prôner des usages qui respectent les droits humains et la loi.

Aux États-Unis, Microsoft est pour l’instant le chef de file du secteur en matière de réglementation, et l’entreprise encourage son personnel, sa clientèle, les autorités publiques, les universitaires et divers groupements de la société civile à développer un ensemble de «principes pour la reconnaissance faciale», qu’elle prévoit de lancer officiellement en ce mois de mars.

Lorsqu’il s’agit d’élaborer une réglementation, le diable se cache souvent dans les détails. Mais les principes (équité, transparence, responsabilité, non-discrimination, information et consentement, surveillance légale) sont sains. Étonnamment, SenseNets range Microsoft parmi ses partenaires sur son site internet, de même que le fabricant américain de processeurs AMD et la société américaine Amax.

Dans le cas de SenseNets, ces partenariats pourraient être de fausses déclarations de la part d’une société cherchant à accroître sa crédibilité, une collaboration involontaire de la part des sociétés américaines ou une vraie relation commerciale.

«Nous n’avons pu trouver aucune preuve que Microsoft est impliquée dans un partenariat avec SenseNets, nous a déclaré un porte-parole de Microsoft.Nous allons contacter SenseNets afin qu’ils cessent de faire des déclarations inexactes au sujet de notre relation.» Si ces partenariats étaient réels, ils iraient à l’encontre des six principes énoncés par Microsoft, sans exception.

Installée en Californie, la société Amax, spécialisée dans les serveurs haute-performance destinés aux applications d’apprentissage profond, affirme bénéficier d’un partenariat avec Hikvision, une entreprise nationale chinoise qui est le plus gros fournisseur mondial de produits de vidéosurveillance. AMD est aussi impliquée dans une joint-venturechinoise de technologies propriétaires pour processeurs x86.

Appel à la prudence

Malgré une prise de conscience générale sur la façon dont les entreprises américaines participent à la surveillance dans le Xinjiang, le Congrès et le gouvernement américains n’ont pas encore demandé d’enquête sur l’ampleur des liens entre les investissements américains et les partenariats de recherche. La réglementation proposée par le département du Commerce sur le contrôle de certaines technologies émergentes est un début, mais son champ d’application reste flou.

La communauté technologique internationale pourrait aider à guider les applications éthiques de ses développements. Suite à des plaintes émises par son personnel, Goggle aurait suspendu son projet de lancement de Dragonfly, une version censurée de son moteur recherche conçue spécifiquement pour la Chine –même si le projet est soupçonné de ne pas avoir été entièrement abandonné.

Lire l’original de l’article ici.

To view full news and leave comments you must be logged in. Please join the community