Vice-présidente Bots et intelligence artificielle chez Sage, Kriti Sharma est une pionnière dans le développement de machines intelligentes capables de fonctionner et de réagir comme des êtres humains pour simplifier les tâches administratives des entreprises. Elle est aussi la créatrice de Pegg, le premier chatbot de comptabilité au monde présent dans 135 pays. Elle nous livre sa vision du code éthique.
Tout le monde sait plus ou moins ce qu’est l’intelligence artificielle aujourd’hui.
De mon point de vue, il s’agit tout simplement de machines intelligentes qui pensent et apprennent comme des êtres humains. Chaque fois que Google complète automatiquement les termes d’une recherche, qu’on s’adresse à Alexa pour allumer la lumière ou qu’un téléphone portable anticipe le prochain mot dans un message, c’est une utilisation de l’intelligence artificielle. Il existe d’autres cas moins évidents. Lorsque nous effectuons un achat inhabituel avec notre carte de crédit et que nous recevons une alerte à la fraude de la banque, une fois de plus, l’intelligence artificielle nous est utile. L’IA est partout sans qu’on le réalise pleinement. Elle joue déjà un rôle central dans le quotidien de millions de personnes.
De la même façon, côté entreprises, des chatbots dotés d’intelligence artificielle permettent aux utilisateurs de se faciliter la vie. Ils posent des questions sur la fin de l’exercice fiscal, la date de dépôt des comptes des clients ou l’heure d’un déjeuner de travail avec un client. Le tout via une simple interface utilisateur vocale.
J’ai commencé à travailler sur l’intelligence artificielle il y a quelques années déjà. Et en peu de temps le secteur a considérablement évolué.
Quelque soit le nom qu’on nous donne, ingénieurs, programmeurs ou hackers en intelligence artificielle, nous disposons d’un très large choix de méthodes pour implémenter l’IA dans les produits que nous développons. Ainsi, nous pouvons créer notre propre technologie d’intelligence artificielle. Ou bien recourir à des outils génériques déjà développés par d’autres et les appliquer aux problématiques spécifiques sur lesquelles nous travaillons.
Démocratisation de la technologie
Avec l’intelligence artificielle, nous assistons à une incroyable démocratisation de la technologie. Elle réduit les délais de mise sur le marché, élargit le vivier de talents prêt à s’y investir et met la technologie la plus moderne à la portée des entreprises de toutes tailles. Mais cette vague croissante de nouvelles technologies soulève des questions. Y compris dans les médias, sur la sécurité et la responsabilité, auxquelles le secteur des technologies doit aujourd’hui impérativement répondre. Sous peine de voir se généraliser certaines dérives.
Alors que quelques grandes organisations développent les fondamentaux de l’intelligence artificielle utilisables par l’ensemble des entreprises, nous devons prendre du recul. Nous assurer que les travaux actuels répondent à un code éthique et responsable. C’est ainsi que depuis plusieurs années, j’applique à mes projets d’IA diverses valeurs et règles que j’invite la communauté technologique à respecter. Il s’agit, selon moi, de la méthode la plus sûre pour développer une IA responsable. Et en adéquation avec les besoins des utilisateurs. Cette technologie est en passe de révolutionner nos vies.
Dans le cadre de mes activités professionnelles, j’ai donc rédigé un mémo « Le code éthique : les cinq principes fondamentaux du développement de l’intelligence artificielle pour les entreprises ». Ce sont cinq règles que je propose à la communauté afin de garantir une révolution industrielle éthique. Je suis convaincue que l’IA doit à la fois refléter la diversité, être responsabilisée. Mais aussi être récompensée pour assurer son apprentissage, enfin son objet sous-jacent doit être de promouvoir l’égalité des chances et de créer de nouvelles opportunités professionnelles pour les humains.
L’IA doit venir en aide aux hommes et aux femmes au lieu de leur faire peur comme Hollywood le fait avec les films catastrophes.
Nous devons apprendre à en faire bon usage et cela passe par le respect d’un certain code éthique des concepteurs. Car après tout, c’est l’homme qui créé l’intelligence artificielle et non l’inverse.
-
L’IA doit refléter la diversité de ses utilisateurs.
L’industrie et les communautés doivent mettre au point des mécanismes permettant de filtrer efficacement les préjugés et les sentiments négatifs au sein des données utilisées pour l’apprentissage de l’IA. L’objectif est de faire en sorte que l’IA ne reproduise pas de stéréotypes.
-
L’IA, tout comme ses utilisateurs, doit être responsabilisée.
Les utilisateurs établissent une relation avec l’IA et lui font confiance après seulement quelques interactions probantes. Or, la confiance implique des responsabilités, et l’IA doit rendre compte de ses actes et décisions, au même titre que les humains. La technologie, aussi intelligente soit-elle, ne doit pas se soustraire à ses responsabilités. Nous n’admettons pas ce type de comportements de la part des autres professions dites « expertes ». Alors pourquoi la technologie ferait-elle exception ?
-
L’IA doit être récompensée pour ses bons résultats.
Si l’apprentissage des systèmes d’intelligence artificielle se construit à partir de mauvais exemples, alors cela peut avoir des conséquences socialement inacceptables. N’oublions pas qu’actuellement, la majorité des solutions d’IA n’ont pas conscience de ce qu’elles disent. Seul un apprentissage reposant sur une grande diversité de sources de données permettra de résoudre le problème. L’une des approches possibles consiste à développer un système d’apprentissage de l’IA basé sur la récompense. Attention toutefois : les méthodes d’apprentissage par renforcement doivent non seulement déterminer ce que l’IA ou les robots doivent faire pour parvenir à un résultat donné. Mais aussi s’assurer que ces actions s’alignent sur les valeurs humaines.
-
L’IA doit promouvoir l’égalité des chances.
Les technologies vocales et les robots sociaux offrent de nouvelles solutions accessibles. En particulier aux personnes malvoyantes, dyslexiques et à mobilité réduite. Notre industrie doit accélérer le développement de nouvelles technologies pour promouvoir l’égalité des chances. Ainsi qu’élargir le vivier de talents au sein des entreprises.
-
L’IA se substituera aux humains, mais créera aussi de nouvelles opportunités.
La robotisation des tâches générera de nouvelles opportunités auxquelles nous devons d’ores et déjà former les humains. En adoptant l’IA, les entreprises pourront se concentrer sur ce qu’elles font le mieux. C’est-à-dire développer le relationnel et prendre soin de leur clientèle.
Aurélie Jean
