| Cette Beez Conférence a été animée le 6 janvier 2025, par Dominique Verdejo (Dirigeant de Personal Interactor, prestataire engagé SAS Beeznet), à l’attention de: – les prestataires engagés beeznet, – les membres de l’association Beeznet – et leurs invités. Merci à Eric, Paul, Fiacre, Eva, Yves, Emmanuel, Holase, Mangna-Ani, Jean-Philippe, Vincent, Miguel, Emmanuel, Vamara, Arimi… pour leur participation. Merci à Jean-Philippe, président de l’Association pour l’organisation. Merci à Dominique, expert en IA depuis plus de 20 ans, pour son animation. |
  |
Voici ci-après :
- la rediffusion de cette BeezConférence (29 minutes) (voir ici)
- le rediffusion de la page introductive sur l’Association, les BeezConf et autres productions (voir ici)
- les points clés abordés (voir ici)
- la séance de questions-réponses retranscrite (voir ici)
Voir présentation générale et liste des BeezConf.
Rediffusion de la BeezConf « Intelligence artificielle, risque ou opportunité ? » (29 minutes)
– 0mn00 Présentation de notre expert, Dominique Verdejo
– 1mn45 Histoire de l’IA
– 7mn40 IA c’est quoi ?
– 11mn55 Mise en oeuvre de IA (acteurs, modèles de langage, approches, RAG…)
– 21mn25 Avantages & risques de l’IA
– 25mn15 Etapes de mise en oeuvre
– 29mn00 Conclusion
Cette approche s’inscrit dans le cadre du Parcours Confiance Numérique-Stratégique.
Ce contenu a été élaboré avec le soutien inconditionnel de nos membres.
Credit Musical Ode To The Winners par MaxKoMusic – Remerciement a Pixabay(photos)
Rediffusion de la présentation des BeezConf durant cette session (2 minutes)
Points clés abordés durant cette BeezConf
• Présentation de l’IA des années 80, les systèmes experts avec retours historiques sur les débuts de l’IA.
• Présentation des ruptures des années 2000 et des avancées majeures des années 2020
• Réflexions sur le marché et la dépendance des fournisseurs US, risques
• Présentation d’une architecture autonome et locale avec OLLAMA
L’intelligence artificielle (IA) est de plus en plus appliquée dans tous les secteurs utilisant les technologies de l’information et brassant des volumes considérables de données. Cette tendance n’est pas sans impact sur l’économie, la protection de la vie privée, la sécurité, les prises de décision, l’influence (intelligence économique)… donnant lieu à des défis sociétaux pour aujourd’hui et pour demain. L’IA a émergé dans les années 1950 (modélisation de la connaissance humaine…).
Sous le terme IA se dessinent plusieurs approchent plus ou moins complexes et nécessitant plus ou moins de moyens : systèmes expert, Apprentissage Automatique (Machine Learning), Apprentissage Profond (Deep Learning), IA Générative (Generative AI).
Avec une appropriation forte de ces technologies par le plus grand nombre (1 million d’utilisateurs en seulement 5 jours).
Les systèmes IA mis en œuvre ont des caractéristiques très différentes et doivent de ce fait présenter des garanties très différentes selon le contexte. Ils doivent trouver un juste équilibre entre la stratégie IA de l’organisme, les besoins d’innovation, le respect de la réglementation (IA act, RGPD…) ou des normes (iso 42001…), le respect des données et des contenus, les attentes et exigences des parties intéressées, les puissances de calcul requises, la (in)dépendance par rapport aux tiers, la déontologie… Pour toutes ces raisons, l’approche par les risques et leurs impacts est au cœur d’un système de management de l’intelligence artificielle (SMIA). Le SMIA est un ensemble de dispositions qui vient compléter les modalités de management de l’organisme et répondre aux exigences légales, réglementaires et normatives.
Les systèmes d’IA nécessitent des expertises très complémentaires : technologiques, développement ou utilisation d’applications logicielles, gestion de données et de contenus, expertise métier pour l’apprentissage et la modélisation…
La mise en place des systèmes d’IA s’appuient sur plusieurs types de solutions:
• Système GPAI (système d’IA public) : ChatGPT (OpenIA), Claude (Anthropic), Copilot (Microsoft), Gemini (Google)
• Système d’IA privatisé en SaaS (gestion de session privée ou “tenant”): ChatGPT-Pro…
• Système d’IA vertueux en SaaS (adaptatif, sécurisé, protection des contenus…) : Waiabe.ai …
• Système d’IA privé en Paas
• Système d’IA OpenSource : Mistral AI (Mistral), LLaMA (Meta ouvert mais pas OpenSource)…
• Système d’IA OpenSource composé de briques : importer un modèle et l’importer (via Ollama) et un système de RAG (Retrieval Augmented Generation i.e récupération et génération d’informations) : Recherche d’informations (retrieval, ne génère pas de réponse originale) & Génération de contenu ( s’appuie uniquement sur les données de son entraînement).
Les systèmes d’IA ont émergé avec une forte évolution du sens, c’est certain et nul ne peut constater le contraire
Reste à savoir :
• ce que chacun veut en faire
• comment rester “maître du manche” (garder le contrôle)
• comment bien mettre à plat et découper/ indexer les données pour alimenter les modèles
• comment éviter l’utilisation des modèles non maîtrisés (actuellement portés par des éditeurs américains voire de plus en plus chinois)
• récupérer des modèles, les sélectionner (pertinence) et les faire tourner sur ces propres serveurs (solutions opensource)
La mise en oeuvre se compose de plusieurs phases :
1. Encadrer les systèmes d’IA
2. Sensibiliser les utilisateurs
3. Labelliser les données
4. Apprentissage – entraînement
5. Généralisation – prompts, chatbot
6. Ré-apprentissage
Questions-réponses, partages et échanges
-question 1 L’IA présente des avantage mais aussi des risques. Comment s’en préserver ?
-question 2 Quelle stratégie pour éviter “l’évasion” des données vers des acteurs IA étranger ?
-question 3 A quoi s’attendre en matière d’IA à long terme ?
-question 4 Pourquoi importer des modèles et pas simplement prendre en compte ses propres données ?
-question 5 Qu’est ce que l’ISO 42001 ?
-question 6 Qu’est ce que l’IA act – RIA ?
-question 7 L’Intelligence artificielle ne tuera-t-elle pas le génie ou préservera les libertés ?
-question 8 Quel est l’état de l’art de l’IA aujourd’hui ?
Question 1) L’IA présente des avantages mais aussi des risques. Comment s’en préserver ?
C’est un fait et il faut donc mettre en place des mesures de sécurisation. Par exemple, des systèmes d’authentification forte pour toutes les opérations sensibles. Et plus globalement, les mesures inspirées de l’ISO 27001 (système de management de la sécurité de l’information)
Question 2) Quelle stratégie pour éviter “l’évasion” des données vers des acteurs IA étranger ?
Des acteurs français commencent à proposer des solutions d’hébergement de système IA.. mais très peu coopté par les sociétés (qui préfèrent les solutions plus faciles, plus simple et plus connues … alors même qu’elles ont étrangères).
Les politiques, peu sensibilisés à l’intelligence économique, ne poussent pas non plus au développement de solutions souveraines et préservant la sécurité.
Question 3) A quoi s’attendre en matière d’IA à long terme ?
Un des impacts les plus important est de :
* combiner la robotique est les systèmes d’IA.. ce qui devrait faire émerger plus de “robots intelligents”
* avoir des systèmes d’IA de plus en plus “puissants” de plus en plus “intelligents”
* voir se développer une domotique et d’intelligence embarqués dans les objets Mais tout ceci coûte encore trop cher.. ce qui pourrait freiner le développement
Question 4) Pourquoi importer des modèles et pas simplement prendre en compte ses propres données ?
On doit effectivement importer des modèles et de les entraîner/ ajuster avec les propres données de l’entreprise car il n’est pas techniquement et financièrement possible de tout construire pour ne prendre en compte que ses propres données. C’est le principe du RAG (Retrieval Augmented Generation). Il combine les deux mondes en IA :
– la recherche d’informations (retrieval, ne génère pas de réponse originale)
– la génération de contenu (s’appuie que sur les données de son entraînement). Il faut faire son analyse de risque et d’impact sur les personnes et les groupes de personnes (qui expotent les données du modèle) et sur la sécurisation des données sensibles de l’entreprise. ISO 42001 est une norme et IA act un réglement qui permettent de définir des exigences pour le faire.
Question 5) Qu’est ce que l’ISO 42001 ?
ISO 42001:2023 « Technologies de l’information — Intelligence artificielle — Système de management » fournit des exigences pour l’établissement, la mise en œuvre, le maintien et l’amélioration continue d’un SMIA (Système de Management de l’Intelligence Artificielle). Elle aide les organismes à jouer leur rôle de manière responsable en ce qui concerne l’utilisation, le développement, le contrôle, la fourniture de produits ou services d’IA. Un « SMIA » reprend les exigences fondamentales de la HLS (chapitre 4 à 10), complétées d’exigences plus spécifiques :
* Insiste sur rôles et responsabilité des systèmes d’IA vis à vis des parties intéressées (internes, clients, fournisseurs,
* Place les risques comme élément central de la démarche
* Précise 38 mesures types (annexe A) pour permettre d’atteindre les objectifs du SMIA et de limiter les risques.
Question 6) Qu’est ce que l’IA act – RIA ?
Il s’agit du Règlement du parlement européen et du conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’union L’IA peut faire une grande différence dans nos vies, pour le meilleur ou pour le pire. En avril 2021, la Commission européenne a proposé le premier cadre réglementaire de l’UE pour l’IA. L’Office AI sera créé, au sein de la Commission, pour contrôler la mise en œuvre effective et la conformité des fournisseurs de modèles GPAI. Le Parlement a adopté la loi sur l’intelligence artificielle en mars 2024 puis le Conseil l’a approuvée en mai 2024. IA act propose que des systèmes d’IA qui peuvent être utilisés dans différentes applications soient analysés et classés en fonction du risque qu’ils présentent pour les utilisateurs. Les différents niveaux de risque impliqueront plus ou moins de réglementation.
• Inacceptable → interdit (chapitre II, article 5 « Systèmes d’IA interdits »)
• à haut risque → réglementé ((chapitre III) Règles de classification des systèmes d’IA à haut risque(article 6) : utilisé comme composant de sécurité ou comme produit couvert par les lois de l’UE de l’annexe I ET devant faire l’objet d’une évaluation de la conformité par un tiers en vertu de ces lois de l’annexe I; OU
• ceux qui sont sous Annexe III
• à risque limité → obligation plus légère
• à risque minimal → pas règlement
Question 7) L’Intelligence artificielle ne tuera-t-elle pas le génie ou préservera les libertés ?
L’intérêt de l’IA est réel. Son développement est pertinent à condition de le faire en préservant la confidentialité, la vie privée, .. L’IA doit être un “compagnon” qui permettra de compléter Et en évitant les risques de détournement, de manipulation, de fuite de données…. A chaque de définir son mode d’utilisation de l’IA tenant compte : – des besoins de simplicité de la mise en œuvre – l’importance accordée par les utilisateurs à la protection de ses données – l’importance accordée par les utilisateurs maîtrise des contenus (briques d’information utilisées par le RAG) – le besoin de maîtrise des demandes-réponses – les capacités et appétence à la technologie (et capacité à installer des systèmes d’IA de type libre et/ou éthique)
Question 8) Quel est l’état de l’art de l’IA aujourd’hui ?
Les cas d’usage sont nombreux : Reconnaissance vocale, moteur de recherche, agents virtuels (Service client), prise de décision automatisé, décision suite à analyse d’image (marquage de photo sur réseaux sociaux, imagerie médicale, recommandation suite à analyse de profil/ tendance, Trading automatisé, traduction, détection de comportements (fraude…).
La vision artificielle a dépassé la vision humaine (2015)
Le test de Turing a été passé (2022)
La reconnaissance vocale et la compréhension du langage naturel ont fait d’énormes progrès.
La synthèse vocale et la génération d’images et de vidéos sont photoréalistes.
Les moteurs de recherche se muent en des interlocuteurs omniscients et empathiques.