L’intelligence artificielle est aujourd’hui au cœur de nombreuses innovations et questionnements. Pour mieux en comprendre les mécanismes et les enjeux, Le Village by CA Côtes d’Armor, en partenariat avec le MEDEF22 & l’UIMM, a organisé son premier Café IA, prénommé “Sous le capot de ChatGPT”.

Lors de cet événement, Thomas ROC, CEO d’Electric Brain, a proposé une conférence sur l’évolution de l’IA et le fonctionnement des modèles de langage comme ChatGPT.

Évolution et implications de l'intelligence artificielle

Histoire de l’IA :

La présentation couvre l’évolution de l’intelligence artificielle depuis les années 40 avec Alan Turing, en passant par le développement du machine learning et du deep learning, jusqu’à l’avènement des LLM dans les années 2020.

Entraînement des modèles LLM :

Discussion sur le processus d’entraînement des modèles LLM, qui consiste à ajuster les paramètres pour obtenir des prédictions précises. L’entraînement supervisé est expliqué avec une illustration simplifiée.

Applications et implications de l’IA :

L’IA est une révolution technique avec des applications variées, mais elle pose aussi des problèmes éthiques, comme la création de fake news et de deepfakes. La nécessité de réfléchir à son usage et à ses implications est soulignée.

Défis et considérations dans l'utilisation et l'intégration desmodèles d'intelligence artificielle

Méthodes d’apprentissage et validation des modèles :

Discussion sur les différentes méthodes d’apprentissage et l’importance de la validation des modèles pour s’assurer qu’ils fonctionnent correctement. Mention de l’élagage pour optimiser les modèles.

Données et coût de l’entraînement des modèles :

Importance des données massives pour l’entraînement des modèles LLM et les coûts financiers et environnementaux associés. Discussion sur les infrastructures nécessaires pour le prétraitement des données.

Problèmes d’hallucination et biais dans les modèles :

Les modèles peuvent produire des hallucinations et des biais, illustrés par des exemples de génération d’images et de réponses incorrectes. Importance de l’éthique dans l’utilisation des IA.

Consommation énergétique et empreinte carbone des IA :

Comparaison de l’empreinte carbone des requêtes IA par rapport à Google. Importance de l’utilisation critique des solutions IA pour minimiser l’impact environnemental.

Sécurité et confidentialité des données :

Risques liés à la confidentialité des données lors de l’utilisation des agents conversationnels. Importance de lire les conditions d’utilisation et de protéger les données sensibles.

Prompt Engineering et vulnérabilités :

Le Prompt Engineering permet d’influencer les réponses des modèles IA. Discussion sur les vulnérabilités potentielles et la nécessité de sécuriser les systèmes IA.

Intégration des IA dans les entreprises :

Discussion sur les défis d’intégration des IA dans les entreprises, y compris la nécessité de formation et d’acculturation pour surmonter les freins.

Choix entre modèles internes et solutions de marque blanche :

Discussion sur l’utilisation de modèles internes versus solutions de marque blanche selon le contexte de l’entreprise.

 Gestion des données et régulation de l'intelligence artificielle

Gestion des données et cybersécurité :

La discussion porte sur la gestion des données personnelles et les défis liés à la cybersécurité. Il est souligné l’importance de maîtriser les données en interne, bien que cela nécessite des budgets conséquents et une équipe dédiée pour la maintenance. La souveraineté des données est cruciale, surtout pour les données sensibles.

Intelligence artificielle supérieure et ordinateurs quantiques :

La conversation aborde l’idée d’une intelligence artificielle supérieure et les implications des ordinateurs quantiques. Il est mentionné que l’IA pourrait se spécialiser plutôt que se généraliser, et que les ordinateurs quantiques pourraient modéliser des réalités complexes, mais posent des défis en termes de consommation énergétique.

Réglementation de l’IA en Europe :

La réglementation de l’IA en Europe est discutée, avec un focus sur la nécessité de structurer et réguler l’IA pour éviter des problèmes comme les fake news et l’ingérence politique. La régulation est vue comme une opportunité d’innovation et de développement d’une IA éthique et spécialisée.

Utilisation et impact des IA dans divers secteurs

Importance des données dans l’entreprise 4.0 :

La discussion a porté sur la nécessité d’avoir des outils ouverts pour automatiser les chaînes administratives dans l’entreprise 4.0. L’accent a été mis sur l’importance de sensibiliser les entreprises à l’ouverture de leurs infrastructures pour capter les données nécessaires.

Biais dans les IA :

Les biais dans les IA dépendent des données utilisées pour leur apprentissage. Les IA supervisées peuvent être biaisées par les annotations humaines, tandis que les IA non supervisées sont moins sujettes à ces biais.

Utilisation des IA dans les entreprises :

Les entreprises utilisent de plus en plus des IA comme ChatGPT, Copilot, et Mistral. Il est important de définir des processus et des chartes éthiques pour encadrer leur utilisation, notamment pour éviter l’utilisation de données sensibles.

Sécurité des données et cloud américain :

Les données hébergées sur des serveurs américains peuvent être consultées par les États fédéraux américains. Il est crucial de prendre en compte cette réalité pour les données sensibles.

Problèmes de sécurité liés à l’humain :

La plupart des failles de sécurité sont dues à des erreurs humaines. Il est essentiel de former les collaborateurs pour éviter les attaques basées sur l’ingénierie sociale.

IA dans la détection des fraudes :

L’IA est utilisée pour détecter les fraudes bancaires, permettant de capter plus de fraudes qu’auparavant grâce à sa capacité à analyser de grandes quantités de données.

Impact de l’IA sur l’art :

L’IA remet en question la perception de l’art en étant capable de créer des œuvres. Cela soulève des questions sur la valeur de l’art et la place de l’humain dans la création artistique.

Utilisation des modèles LLM open source :

Les modèles LLM open source comme CamemBERT ou CamemBERTa sont utilisés pour des tâches d’analyse sémantique et de catégorisation. Ils offrent une alternative sécurisée pour certaines applications.

Utilisation et intégration de l'IA dans divers domaines

Utilisation de l’IA dans la cybersécurité :

Discussion sur la possibilité que l’IA remplace des outils de cybersécurité. Un participant préfère ne pas répondre car il n’est pas expert dans ce domaine.

Importance de la documentation des algorithmes IA :

Souligner l’importance de documenter les décisions prises dans les algorithmes IA pour éviter de perdre des informations cruciales lors de futures révisions.

Développement d’une IA interne pour les juristes et DRH :

Création d’une IA interne pour traiter des données sensibles et aider les juristes et DRH dans leurs tâches quotidiennes, avec un objectif d’autonomie pour les entreprises adhérentes.

Sensibilisation à la sécurité des données : 

Discussion sur les risques humains liés à la sécurité des données, notamment la sous-traitance et le partage d’informations sensibles.

Utilisation de l’IA pour la création artistique :

L’IA permet à des personnes sans compétences en dessin de réaliser des modèles artistiques, remettant à zéro les compteurs de la créativité.

Interaction avec les agents conversationnels IA :

Importance de bien formuler les questions pour obtenir des réponses pertinentes des agents conversationnels IA.

Infrastructure de données pour l’intégration de l’IA :

Nécessité de revoir l’infrastructure de données pour intégrer l’IA, en se concentrant sur la collecte, la sécurisation et l’anonymisation des données.

📆 Ne manquez pas les prochains Cafés IA !

Face aux enjeux grandissants de l’intelligence artificielle, ces rencontres sont l’occasion d’échanger avec des experts et d’explorer ensemble les opportunités et défis de l’IA.