Première étude de terrain sur un agent IA autonome déployé dans de vraies équipes, révélant les frictions concrètes qui apparaissent quand une machine agit comme un collègue.
Ce n'est pas de l'alignement à proprement parler, mais je trouve cette étude hyper instructive sur la manière dont une équipe d'humains interagissent avec un "agent IA".
Des chercheurs de Google ont installé pendant cinq mois un agent IA baptisé « Team Agent » dans plus de 20 équipes réelles de leur entreprise. Contrairement à un chatbot classique qui attend qu'on lui pose une question, cet agent agissait de sa propre initiative : il rédigeait des documents, planifiait des réunions, résumait des conversations, et intervenait même dans les échanges du groupe. Les chercheurs ont ensuite interrogé 17 utilisateurs pour comprendre comment cette présence a été vécue.
Imaginez un nouveau collègue très compétent techniquement, mais qui ne connaît aucune des règles tacites du bureau : il partage un document pas encore prêt, prend une blague au premier degré, ou propose une réunion là où une simple discussion suffisait. C'est exactement ce qui s'est passé. L'intérêt de l'étude : elle montre que le problème n'est pas la performance technique de l'IA, mais son incompréhension du « tissu social » du travail. Et surtout, que la confiance envers une telle IA doit se gagner progressivement, comme avec un nouvel arrivant.
Pourquoi c’est un enjeu de société
Introduire une IA autonome dans une équipe ne modifie pas seulement les tâches : cela redéfinit qui décide, qui est responsable, et jusqu'où l'on peut parler librement.
Le travail est un écosystème social fait de règles non écrites et de relations de confiance. Y insérer un acteur non humain, qui accomplit des tâches humaines sans en partager les obligations sociales ni la responsabilité morale, bouscule le « contrat social » implicite de l'organisation. La question centrale, selon les auteurs, est de préserver l'agentivité humaine.
- Un sentiment de surveillance permanente peut « refroidir » les échanges et pousser les gens à s'autocensurer.
- La responsabilité devient floue : qui répond des erreurs commises par une machine qui agit seule ?
- Les auteurs plaident pour des garde-fous concrets : un « code de conduite » pour les agents, une adoption fondée sur le consentement des équipes plutôt qu'imposée d'en haut.
Pourquoi c’est un enjeu pour les entreprises
Déployer un agent IA « coéquipier » de façon massive et autonome dès le départ risque de créer plus de friction que de valeur.
L'étude montre que la capacité technique ne suffit pas : sans compréhension du contexte social, la proactivité de l'IA génère du bruit, du travail correctif et de la défiance. Les mêmes comportements séduisent certains utilisateurs et en aliènent d'autres, ce qui rend le déploiement uniforme risqué.
- Privilégier une autonomie progressive : commencer par des tâches à faible enjeu, élargir les permissions à mesure que la fiabilité est démontrée.
- Repenser l'infrastructure logicielle : marquer visuellement les actions initiées par l'IA, permettre de les auditer et de les annuler pour maintenir la traçabilité.
- Laisser chaque équipe définir localement les limites et la « personnalité » de l'agent, et déployer par consentement plutôt que par mandat descendant, car l'adoption forcée détruit l'appropriation nécessaire à la confiance.