Enjeux éthiques et défis de la souveraineté dans l’intelligence artificielle

“61% des Français pensent que l’IA est une révolution aussi importante que l’imprimerie.” 

Thibaut Brousse

En effet l’IA est une révolution, comme toute innovation disruptive il est nécessaire d’en comprendre les enjeux, qu’il soit éthique, technologiques, juridiques. Voici une édition spéciale de notre podcast sous format table ronde qui réunit des experts issus d’univers différents. Ils échangent au sujet des impacts de l’intelligence artificielle sur notre société, nos technologies, et notre cadre législatif. Transformation sociétale,  aspects légaux et éthiques, cybersécurité, big tech, un débat très riche vous attend !

ÉCOUTER LE PODCAST :

Intelligence Artificielle plus qu’une innovation un déclencheur d’une transformation sociétale sans précédent

Comme l’imprimerie a révolutionné l’accès au savoir, l’IA promet de remodeler nos sociétés de manière tout aussi profonde. Elle possède un pouvoir transformateur sur les modes de communication, l’emploi, et l’éducation. Cependant, il faut insister sur la nécessité d’une régulation pour éviter les dérives potentielles telles que l’accroissement des inégalités et la manipulation des informations. La formation et la sensibilisation du public sont essentielles pour naviguer dans cette nouvelle ère technologique sans précédent.

Souveraineté numérique, les questions liées à l’IA

Il y a donc une chose très importante dans le contexte actuel, c’est la souveraineté numérique. Avec l’adoption de l’IA Act européen, l’Europe a pour nécessité de prendre le contrôle de ses données numériques et de garantir que les innovations en IA soient utilisées de manière éthique et responsable. Mais elle pose également de nombreux défis juridiques, notamment en termes de propriété intellectuelle et de respect des droits fondamentaux, tout en appelant à une coopération internationale pour réguler efficacement ces technologies. En particulier concernant la création de contenu généré par l’IA. Les spécialistes débattent de qui détient les droits sur les œuvres créées par des machines, une question encore en grande partie non résolue dans le cadre légal actuel. La nécessité d’un cadre juridique clair et adapté est impérative pour protéger les créateurs et les utilisateurs tout en favorisant l’innovation. Des discussions en cours cherchent à équilibrer les droits des développeurs d’IA, des utilisateurs et des sujets dont les données sont utilisées pour entraîner ces systèmes.

ÉCOUTER LE PODCAST :

L’intelligence artificielle ennemi ou ami de la cybersécurité ?  

On le sait, l’IA avance rapidement, c’est pourquoi il est important de redéfinir notre infrastructure numérique. La transition vers une utilisation sûre et éthique de l’IA nécessite une réévaluation de nos systèmes de sécurité actuels. Nous sommes exposés à des risques de cyberattaques de plus en plus sophistiquées permises par l’IA, impliquant des nécessités urgentes de développer des stratégies de défense renforcées. On peut imaginer une cybersécurité renforcée par l’IA elle-même, nous ouvrant les portes d’un futur où les technologies de protection et de détection évoluent en parallèle des menaces.

Quelle est la définition de l’intelligence artificielle selon le règlement européen ?

Selon l’article 3 du futur règlement européen sur l’intelligence artificielle, l’intelligence artificielle (IA) est définie comme un système logiciel développé avec une ou plusieurs technologies. Ce système est conçu pour générer des résultats, prédire, évaluer, prendre des décisions ou faire des recommandations qui influencent les environnements avec lesquels les humains interagissent.

En effet, l’intelligence artificielle inclut des algorithmes, et les systèmes logiciels, comme les modèles de langage de grande taille (LLM), font partie de cette définition. Ces modèles peuvent générer du texte, du son, des vidéos, et des photographies, facilitant ainsi une interaction homme-machine. L’intelligence artificielle générative est une sous-catégorie de l’IA qui gagne en importance et soulève des questions sur la manière de la réglementer.

L’intelligence artificielle est-elle un buzz ou une révolution durable ?

Est-ce que l’intelligence artificielle est simplement un buzz ou représente-t-elle une transformation durable ? Cette question, soulevée par le blogueur Cory Doctorow, mérite réflexion. La perception publique de l’IA varie, influencée par des facteurs comme les investissements massifs, la disponibilité des ressources, et les compétences techniques nécessaires.

L’IA a connu plusieurs vagues de popularité, similaires à la blockchain dans les années 2020. Pourtant, l’IA a un potentiel révolutionnaire comparable à celui de l’imprimerie, en transformant profondément notre interaction avec la technologie. Bien que certains projets d’IA puissent sembler motivés par des effets de mode, l’impact sociétal et technologique de l’IA est indéniable, marquant un changement fondamental dans notre manière d’utiliser et de comprendre les technologies modernes.

Quelle est la fiabilité de l’intelligence artificielle aujourd’hui ?

La fiabilité de l’intelligence artificielle aujourd’hui est un sujet de débat. De nombreux projets d’IA ne dépassent pas le stade de concept, avec 80 % du travail consacré à la préparation des données avant d’obtenir des résultats utiles. Cependant, des outils comme Microsoft Copilot et les LLM d’OpenAI démontrent des améliorations significatives.

Bien que des problèmes d’encombrement puissent survenir, ces outils sont souvent utilisés avec succès pour la recherche, la correction de documents et la génération d’idées. La fiabilité dépend donc largement de la manière dont l’IA est utilisée et vérifiée, nécessitant souvent des ajustements et une supervision attentive pour garantir des résultats précis et utiles.

Quels sont les défis de la souveraineté face aux modèles de langue en intelligence artificielle ?

Emmanuel Macron a déclaré que le défi civilisationnel réside dans le fait que les modèles de langue en intelligence artificielle ne soient pas seulement nourris de contenu en anglais. Cela soulève des questions sur la souveraineté, notamment en France et en Europe. L’infrastructure de ces systèmes dépend souvent de ressources et d’intérêts externes, avec des pays comme les États-Unis possédant des lois extra-territoriales pouvant influencer ou contrôler l’accès à ces services. La concentration de ces technologies dans certaines régions peut désavantager les pays en développement et mener à une homogénéisation des données. La souveraineté implique la capacité d’un État à réguler ces technologies pour protéger ses intérêts et maintenir une diversité culturelle et cognitive face à l’hégémonie technologique.

Le défi de la réglementation des activités des plateformes et des infrastructures de services numériques est crucial. Même si ces services ne sont pas situés en Europe, s’ils opèrent sur le territoire européen et concernent des Européens, la législation de l’Union européenne doit s’appliquer. Cela pose des problèmes d’extra-territorialité, car des entreprises comme Google et Facebook manient habilement ces compétences juridiques. Néanmoins, la jurisprudence européenne s’est développée pour affirmer cette souveraineté. Les services numériques, y compris le Cloud et les LLM, fournis par des entités étrangères, sont souvent soumis à leurs propres conditions. Les transferts de données hors de l’Europe, bien que réglementés, demeurent un enjeu critique pour la souveraineté des données, soulignant la nécessité de réglementations robustes pour protéger les intérêts européens contre les influences externes.

Quels sont les défis juridiques et de souveraineté de l’IA ?

La gouvernance de l’intelligence artificielle en Europe repose sur des principes de transparence, d’explicabilité, et de respect des droits fondamentaux, tout en cherchant à maintenir une indépendance et une souveraineté face aux influences externes.

Continuité de service et indépendance

Il est crucial de garantir la continuité de service en décentralisant et en rendant les systèmes d’intelligence artificielle autonomes. Pour ce faire, il faut établir un cadre juridique clair pour les années à venir afin d’assurer la qualité et la fiabilité des services. Le règlement européen vise à offrir les mêmes garanties pour tous sur le territoire européen, en se concentrant sur la gestion des risques pour les personnes et les institutions.

• Systèmes à haut risque : Classification des IA en fonction du niveau de risque (haut, moyen, faible).
• Obligations spécifiques : Imposition d’obligations spécifiques aux fournisseurs et distributeurs en fonction de la classification.
• Droits fondamentaux : Le règlement repose sur les droits fondamentaux, en particulier la dignité humaine, comme stipulé dans la Charte des droits fondamentaux de l’UE.

Souveraineté et réglementation

Le défi de la réglementation des plateformes et des infrastructures numériques est crucial pour préserver la souveraineté européenne. Bien que les services numériques puissent être fournis par des entités étrangères, la législation de l’Union européenne doit s’appliquer s’ils opèrent sur le territoire européen.

• Extra-territorialité : Les lois des États-Unis, par exemple, peuvent s’appliquer en Europe, ce qui complique la souveraineté des données.
• Transparence et explicabilité : Le règlement sur l’intelligence artificielle exige la transparence et l’explicabilité des algorithmes et des traitements automatisés.
• Uniformisation globale : Les réglementations sur la protection des données sont en cours d’uniformisation à l’échelle mondiale, bien que des disparités existent encore.

Enjeux de la vie privée et des droits fondamentaux

Les nouvelles technologies redéfinissent la notion de vie privée et de liberté cognitive. La Cour européenne des droits de l’homme considère désormais toute atteinte à la représentation sociale de l’individu comme une atteinte à la vie privée.

• Liberté de pensée : La protection de la liberté cognitive et la non-manipulation des opinions.
• Transparence des décisions automatisées : Droit de comprendre et de contester les décisions prises par des algorithmes.
• Responsabilité : Détermination de la responsabilité à différents niveaux, de la fourniture de données à l’utilisation des modèles.

À qui appartient une œuvre générée par l’intelligence artificielle ?

La propriété intellectuelle des œuvres générées par l’intelligence artificielle reste un domaine complexe et en évolution, nécessitant des régulations claires et adaptées pour protéger à la fois les créateurs humains et les innovations technologiques.

La propriété intellectuelle des œuvres générées par IA

Lorsqu’une œuvre est générée par une intelligence artificielle, comme un roman d’espionnage à la manière de Proust, la question de la propriété intellectuelle se pose. En général, une œuvre créée par une IA ne peut pas être protégée par le droit d’auteur tel qu’il est traditionnellement compris. Cependant, il existe des évolutions, notamment aux États-Unis, où les œuvres générées par IA peuvent être enregistrées au bureau du copyright si l’effort humain est démontré.

• Déclaration obligatoire : Il est nécessaire de déclarer que l’œuvre a été partiellement créée par une IA.
• Effort humain : La preuve d’un effort humain significatif est requise pour obtenir des droits d’auteur.
• Exemple de jurisprudence : Une artiste a pu obtenir des droits d’auteur pour le texte de sa bande dessinée, mais pas pour les images générées par MidJourney.

Réglementation et responsabilités

L’intelligence artificielle générative nécessitera une réglementation spécifique, qui se chevauchera probablement avec les réglementations existantes sur l’IA. Il est crucial de distinguer entre l’algorithme utilisé et les données sur lesquelles il s’appuie. La traçabilité des prompts et la transparence dans l’utilisation des bases de données deviennent essentielles.

• Traçabilité des prompts : En cas de plagiat, la traçabilité des prompts peut prouver l’interaction humaine.
• Responsabilité partagée : Les responsabilités peuvent être partagées entre le fournisseur de données, le développeur du modèle et l’utilisateur final.
• Débat sur la propriété des données : La législation doit encore évoluer pour déterminer si l’utilisation de bases de données existantes constitue une violation des droits d’auteur ou simplement une réutilisation légitime.

Comment garantir la traçabilité et la certification des modèles d’intelligence artificielle ?

La traçabilité et la certification sont des éléments clés pour garantir la responsabilité et la transparence des modèles d’intelligence artificielle. Ils permettent de créer un environnement de confiance, essentiel pour le développement et l’utilisation éthiques et efficaces de ces technologies.

La traçabilité et la documentation

La valeur ajoutée des modèles d’intelligence artificielle réside dans leur capacité à aller à l’essentiel grâce à des mots clés, ce qui nécessite une documentation, une traçabilité et une certification rigoureuses. Glenn souligne l’importance de ces éléments pour assurer la confiance et la responsabilité dans l’utilisation des IA.

• Documentation des données : Enregistrement des données utilisées lors de l’entraînement du modèle.
• Traçabilité des modèles : Suivi des modifications et des versions du modèle.
• Certification des algorithmes : Validation des algorithmes par des entités tierces pour garantir leur intégrité et leur fiabilité.

Les défis de la transparence

La transparence dans l’utilisation des données et des modèles est essentielle pour répondre aux exigences légales et éthiques. Les utilisateurs et les développeurs doivent pouvoir vérifier l’origine des données et comprendre comment les modèles ont été entraînés.

• Influence des données d’origine : Après l’entraînement, le modèle contient des poids et des biais basés sur les données d’origine, qui peuvent influencer les résultats.
• Problèmes de copie : Des données uniques peuvent entraîner des réponses proches de la copie, tandis que des sujets largement représentés donnent une moyenne de connaissance.
• Responsabilité des données : Identification de qui est responsable des données utilisées, que ce soit le fournisseur, le développeur ou l’utilisateur du modèle.