Entreprise autonome: jusqu’où laisser l’IA décider?

La promesse est séduisante. Des agents IA pourraient analyser une situation, rechercher les informations pertinentes, proposer une solution puis exécuter une série d’actions. L’humain n’aurait plus à superviser chaque étape, mais à définir la direction et les règles du jeu.

«L’humain dirige le processus», résume Alexander Finger, CTO de SAP Suisse. L’IA, elle, peut ensuite «exécuter et orchestrer».

Mais l’autonomie ne signifie pas nécessairement l’absence de contrôle. Au contraire. Plus un agent dispose de marge de manœuvre, plus les conséquences d’une erreur peuvent être importantes.

Le risque n’est pas théorique. Alexander Finger évoque le cas d’un chatbot qui avait attribué des rabais sur des voitures, conduisant à des ventes à prix réduit. Une erreur de quelques lignes de dialogue peut alors produire une conséquence commerciale bien réelle.

Pour SAP, certaines décisions doivent donc rester hors de portée de l’IA. L’entreprise indique avoir défini des lignes directrices en matière d’éthique et d’intelligence artificielle. Elle exclut notamment la reconnaissance faciale et les systèmes qui prennent des décisions concernant des personnes.

Le domaine des ressources humaines illustre cette distinction. Une IA peut aider à rechercher et à synthétiser des informations, mais les outils de SAP ne doivent pas, selon Alexander Finger, servir à porter un jugement sur les collaborateurs.

Cette séparation entre assistance et décision est appelée à devenir un enjeu majeur à mesure que les agents gagnent en autonomie. Une entreprise peut accepter qu’un agent rédige une proposition commerciale ou prépare un rapport. Elle doit en revanche déterminer précisément dans quelles conditions celui-ci peut modifier un prix, engager une dépense ou prendre une décision ayant des conséquences pour une personne.

Cette question renvoie à un autre enjeu moins spectaculaire mais probablement plus déterminant: les connexions entre les systèmes de l’entreprise.

Avec Joule, l’interface d’IA de SAP, l’utilisateur peut interagir avec un espace qui rassemble dynamiquement les informations nécessaires à une tâche. Mais derrière cette interface se trouvent plusieurs systèmes et règles de sécurité.

«On peut changer de LLM, mais pas les connexions aux systèmes de SAP», souligne Alexander Finger. Autrement dit, le modèle d’IA n’est qu’une partie du dispositif. Pour une entreprise, la capacité à contrôler quelles données sont accessibles, quelles actions peuvent être effectuées et selon quelles règles est au moins aussi importante que le choix du modèle.

C’est aussi ce qui explique pourquoi la qualité des données devient un problème central. Une IA peut être très performante, mais si les informations auxquelles elle accède sont incomplètes, contradictoires ou mal contextualisées, son autonomie ne fera qu’accélérer les erreurs.

Pour les PME, Alexander Fleischer recommande donc d’avancer étape par étape. Plutôt que de chercher immédiatement à construire une entreprise entièrement autonome, il préconise de commencer par des cas d’usage dont le bénéfice est clairement identifiable.

Cette approche permet aussi de déterminer progressivement où placer les garde-fous. Une entreprise peut confier à un agent une tâche simple, puis lui permettre d’enchaîner plusieurs opérations, tout en conservant une validation humaine pour les décisions sensibles.

L’«entreprise autonome» ne signifie ainsi pas nécessairement une entreprise où l’humain disparaît des processus. Elle dessine plutôt une organisation dans laquelle la machine prend en charge une part croissante de l’exécution, tandis que l’humain conserve la responsabilité des objectifs, des règles et des décisions qui engagent l’entreprise.

La question n’est donc plus seulement de savoir ce que l’IA est capable de faire. Elle devient: que sommes-nous prêts à lui laisser faire seule?