En tant que membre du conseil d’administration, Joanne Chen connaît l’intelligence artificielle mieux que nombre de ses pairs. Chen est associé général de Foundation Capital, une société financée par capital-risque qui se concentre principalement sur l’investissement en phase d’amorçage, en mettant l’accent sur la fintech et l’entreprise. “J’investis dans l’espace de l’entreprise dans le but d’appliquer l’IA à l’entreprise”, déclare Chen, basé à San Francisco, qui a étudié l’informatique à l’Université de Californie à Berkeley.
Environ 75 % du portefeuille d’entreprises de Foundation utilise l’IA, qu’il s’agisse de l’apprentissage automatique, de la vision par ordinateur ou des grands modèles de langage qui font le buzz, explique-t-elle. Parmi ces entreprises figurent Jasper, un assistant de rédaction d’IA ; et des acteurs de l’infrastructure comme Anyscale, dont les clients incluent OpenAI, créateur de ChatGPT, le populaire chatbot d’IA générative.
“Il y a beaucoup d’opportunités mais aussi beaucoup d’inconvénients”, dit Chen, soulignant les faux contenus et les problèmes de sécurité. “C’est pourquoi nous investissons à la fois dans les applications de l’IA et dans la sécurité des données, des éléments qui compensent les inconvénients de cette technologie.”
Chen siège au conseil d’administration de plus de 10 sociétés de portefeuille. Lorsqu’on lui demande comment les administrateurs peuvent saisir le rôle que l’IA devrait jouer dans leur organisation, ainsi que ses risques potentiels, elle met l’accent sur la gouvernance. “Le conseil est vraiment le forum pour poser des questions, pas pour avoir, nécessairement, les réponses.”
L’IA étant sur le point de transformer de nombreux secteurs, les chefs d’entreprise ne peuvent ignorer cette technologie en évolution rapide. Pour les conseils et leurs organisations, il est très prometteur, mais présente également des défis de taille. Les administrateurs doivent assurer une surveillance utile de la stratégie d’IA et s’assurer qu’ils s’instruisent.
Les faux pas impliquant l’IA peuvent être coûteux, comme l’a appris Alphabet, la société mère de Google, lorsque sa valeur marchande a récemment chuté de 100 milliards de dollars après le lancement décevant du chatbot Bard. “Si vous êtes dans une industrie réglementée et que vous essayez d’appliquer l’IA, je pense que vous devez être très, très prudent”, prévient Chen. “Parce que les conséquences d’une application incorrecte de l’IA, qui conduit à de mauvais conseils ou à de mauvais résultats, peuvent être vraiment, vraiment mauvaises.”
La plupart des conseils pourraient augmenter leur niveau d’intelligence artificielle. Dans une récente enquête menée auprès de 500 cadres supérieurs basés aux États-Unis par le cabinet d’avocats Baker McKenzie, seuls 41 % ont déclaré avoir une expertise en IA au niveau du conseil d’administration. Et même si tous les répondants s’accordent à dire que l’utilisation de l’IA comporte des risques, seuls 4 % les considèrent comme importants.
Le premier chiffre semble étrangement élevé pour Alan Dignam, professeur de droit des sociétés à l’Université Queen Mary de Londres. “Je pense que les niveaux de connaissances réelles sont assez faibles”, déclare Dignam, qui écrit un livre sur les transformations organisationnelles à venir axées sur l’IA.
“Je ne sais pas si cela reflète ‘J’ai téléchargé ChatGPT et j’ai téléchargé [image generation engine] DALL-E, et j’y ai jeté un coup d’œil », ajoute-t-il à propos du chiffre de 41 %. “Mais je serais vraiment, vraiment surpris si cela signifiait une réelle expertise au niveau du conseil d’administration.” Une connaissance approfondie de l’IA est rare, note Dignam. “Les informaticiens ne sont pas des experts en la matière, car ce ne sont pas des maths, ce n’est pas de l’informatique, ce sont des statistiques.”
La sensibilisation des administrateurs à l’IA s’est accrue au cours des dernières années, déclare Beena Ammanath, directrice exécutive du Global Deloitte AI Institute. “Chaque conseil d’administration est maintenant conscient qu’il a besoin d’un certain niveau de connaissance de l’IA et de formation en IA, et il doit comprendre les risques liés à l’utilisation de l’IA”
La composition du conseil d’administration a changé en conséquence, observe Ammanath, qui dirige également la pratique Trustworthy Tech Ethics chez Deloitte et est l’auteur de IA digne de confiance. “Il y a certainement eu ce changement lent pour inclure un cadre technologique dans le conseil d’administration, juste pour augmenter le QI technologique”, déclare Ammanath.
Jeanne Kwong Bickford, directrice générale et associée principale du Boston Consulting Group, voit des parallèles avec la cybersécurité il y a quelques années. “La cybersécurité est le risque négatif de la numérisation, et la numérisation est un impératif stratégique majeur pour de nombreuses organisations”, déclare Bickford, l’un des responsables des risques et de la conformité de son entreprise. Mais historiquement, les conseils d’administration manquaient d’expertise ou de connaissances en matière de cybersécurité, car il s’agissait d’un risque émergent.
Ils sont maintenant dans une situation similaire avec l’IA, note Bickford. « À l’origine, vous pensez que c’est à la direction de s’en occuper, car c’est un sujet très technique », dit-elle. “Mais la réalité est que l’IA elle-même est également de nature stratégique car il s’agit d’une technologie perturbatrice qui peut permettre une innovation massive, à la fois du côté des revenus, mais aussi du côté des coûts et des processus.”
En plus de comprendre comment utiliser l’IA pour obtenir un avantage concurrentiel, les conseils d’administration doivent connaître les risques de baisse d’une technologie parfois non éprouvée, déclare Bickford. Ces risques sont également stratégiques, explique-t-elle. “Le risque de baisse oblige un conseil d’administration à réfléchir à la responsabilité sociale de l’entreprise, à l’objectif et aux valeurs de l’entreprise elle-même, car certaines des décisions sur la façon dont vous utilisez l’IA mettront à l’épreuve ces valeurs, et le conseil doit pouvoir s’engager sur ce.”
Ammanath met en évidence les risques de marque et de réputation de l’IA Pour utiliser un exemple opportun, un chatbot pourrait produire un contenu misogyne. Pour Ammanath, il s’agit de comprendre “les endroits au sein de l’organisation où l’IA est utilisée et le type de vérifications technologiques éthiques qui ont été effectuées, et d’obtenir les meilleures pratiques du reste de l’industrie ou d’autres organisations”.
Parce que toute IA devrait être responsable, l’organisation doit d’abord définir sa politique d’IA responsable, affirme Bickford. “Quels sont ces principes qui guident la manière dont une entreprise utilisera ou non l’IA ?” elle demande. “Nous croyons vraiment qu’une IA responsable ne peut être séparée de la gestion normale des risques et de la bonne gouvernance.”
La réglementation est un autre facteur clé pour Bickford, qui souligne la proposition de loi sur l’IA de l’Union européenne. “Et il existe diverses réglementations nationales, régionales, étatiques et locales qui arrivent, [so] que cela devient également une responsabilité fiduciaire d’un simple point de vue juridique et réglementaire. Donc, toutes ces choses obligent le conseil à s’engager sur l’IA »
Pour toute entreprise qui envisage de déployer une stratégie d’IA, Chen dresse une liste de questions que les administrateurs devraient poser à la direction. « Quels sont les objectifs de la stratégie ? Comment cela affecte-t-il le chiffre d’affaires, le résultat net ? De quelles ressources avons-nous besoin ? elle dit. « En cas de conséquences imprévues, quelles sont les barrières de sécurité que vous mettez en place à l’avance ? Comment les concurrents utilisent-ils cette technologie ? »
Le conseil de Dignam : Soyez sceptique quant aux arguments de vente pour les produits d’IA. “[Ask] des questions vraiment très détaillées sur ce sur quoi cette chose a été testée », conseille-t-il. « Il y a énormément de ventes abusives ; il y a énormément d’incompréhension de la part des conseils d’administration quant à ce qu’ils achètent.
D’après l’expérience de Dignam, les organisations qui cherchent à exploiter l’IA interprètent souvent mal à quel point elles doivent changer radicalement. “La chose n ° 1 qu’un conseil doit comprendre [is] que si vous avez le type d’entreprise qui pourrait tirer parti de l’IA, alors vraiment, vous parlez de transformer votre entreprise en une entreprise principalement conçue autour de la génération de données internes de haute qualité, avec laquelle vous pouvez ensuite utiliser l’IA pour vous aider à analyser motifs.”
Les entreprises qui empruntent cette voie n’auront pas besoin de ressembler aux entreprises d’aujourd’hui, prédit Dignam, qui pense que de nombreux rôles de direction deviendront superflus. « Le conseil se rapprochera de la production ; il se rapprochera du produit. Les actionnaires se rapprocheront également du produit », dit-il. “Je ne suis pas sûr que dans 10 ans, nous aurons besoin de cartes telles que nous les utilisons actuellement pour certaines industries.”
Dans les soins de santé et d’autres industries réglementées, les entreprises sont généralement prudentes quant au déploiement de l’IA, raconte Chen. “Peut-être qu’ils l’appliquent d’abord aux fonctions de support plutôt qu’au produit principal”, dit-elle, “et ensuite réfléchissent aux garde-fous qu’ils peuvent apporter.”
Pour qu’un conseil d’administration puisse parler avec compétence de l’orientation stratégique en matière d’IA, tous les administrateurs n’ont pas besoin d’être faciles dans la technologie, estime Bickford. “Vous espérez ou aspirez à avoir au moins un membre qui a suffisamment de cette profondeur pour pouvoir aider à guider le reste du conseil d’administration dans ces conversations sur les possibilités et les opportunités de l’IA”
Les conseils d’administration pourraient également demander à un expert en IA de faire une présentation ou de tenir des réunions consultatives régulières, suggère Chen. “L’astuce, cependant, est de trouver quelqu’un qui comprend comment commercialiser un produit en utilisant l’IA, ainsi que quelqu’un qui comprend suffisamment l’IA pour voir l’impact.”
Quelle est la meilleure façon pour les réalisateurs de se familiariser avec l’intelligence artificielle ? Les universités proposent une formation à la maîtrise de l’IA et de nombreuses entreprises ont des programmes internes, explique Ammanath. “Mais l’IA pour les membres du conseil d’administration est une formation qui, à mon avis, devrait être obligatoire”, dit-elle, recommandant qu’elle fasse partie de leur certification.
Et outre la réglementation, quelles tendances les conseils d’administration devraient-ils surveiller ?
L’IA générative a changé la donne en démocratisant l’accès, dit Bickford. “Auparavant, je pense que dans un conseil d’administration ou même une direction, le développement et le déploiement de l’IA étaient en fait assez contrôlés”, explique-t-elle. “Avec la générative, elle est intégrée aux produits que vous achetez, de sorte que vos fournisseurs tiers, vous pouvez l’acheter auprès d’eux. Vous ne comprenez peut-être pas entièrement ou ne contrôlez pas comment il peut ou ne peut pas être utilisé, ou la qualité de ce que vous venez d’acheter. Pendant ce temps, un employé peut décider d’utiliser une application générative dans son travail.
Pour les conseils d’administration, tout cet accès crée une nouvelle urgence car les processus de gouvernance normaux ne s’appliquent pas aussi bien, explique Bickford. “Vous avez beaucoup d’intelligence artificielle fantôme qui existe dans une organisation, ce qui, je pense, peut également pousser un conseil à prêter attention et également aider à définir les directives.”
Ammanath s’attend à ce que l’IA et d’autres technologies attirent davantage l’attention au niveau du comité. « Je ne serais pas surprise qu’à l’avenir nous ayons une forme quelconque de comité ou de sous-comité technologique », dit-elle.
Dignam a une vision quelque peu différente : « Si [directors are] sérieux au sujet de l’examiner, ils ont besoin d’un sous-comité du conseil d’administration pour examiner la transformation organisationnelle autour de données de haute qualité et en utilisant l’IA »
Des cartes plus avancées ont commencé à envisager de nouvelles technologies qui se mélangent à l’intelligence artificielle, dit Ammanath, citant le métaverse. “C’est important [for directors] regarder au-delà de l’IA vers d’autres technologies émergentes et se former, et savoir comment l’évaluer et la gouverner en tant que membre du conseil d’administration.
Read more Business News in French
Source
