Centre de confiance en IA de GoTo
Dernière modification le 3 mars 2025
Introduction
GoTo met à la disposition de ses clients des outils qui les aident à accroître leur productivité et leurs performances en intégrant des services d’intelligence artificielle (IA) dans ses produits de communication d’entreprise, de collaboration, d’assistance à distance et de gestion informatique (les "services GoTo").
Nous utilisons des grands modèles de langage (LLM) et des modèles d’IA fondamentaux pour prendre en charge un nombre croissant de cas d’utilisation dans nos services GoTo, tels que les assistants interactifs par IA, les suggestions de dépannage informatique, la création et l’analyse de scripts de gestion informatique, le résumé de réunions et d’appels, et la fourniture d’informations opérationnelles sur les entreprises.
Si l’IA offre des avantages considérables, c’est aussi une technologie en évolution rapide qui peut présenter des risques. Nous expliquons sur cette page l’approche de GoTo en matière de pratiques de développement sécurisées conçues pour gérer ces risques et aider nos clients à bénéficier de caractéristiques et fonctions d’IA.
La confidentialité et la sécurité sont au cœur des préoccupations de GoTo pour concevoir toute fonction d’IA. Pour plus d’informations sur les programmes de confidentialité et de sécurité de GoTo, veuillez consulter notre Trust Center.
Utilisation responsable de l’IA chez GoTo
GoTo s’engage à utiliser l’intelligence artificielle de manière responsable pour fournir des fonctionnalités de produit qui favorisent l’efficacité tout en protégeant contre les résultats contraires à l’éthique ou autrement préjudiciables. Ainsi, les fonctions d’IA de nos produits sont conçues en tenant compte des principes d’une IA responsable :
- Équité. Des protections contre des résultats biaisés ou discriminatoires, notamment en minimisant l’utilisation de données d’entrée pouvant conduire à un comportement discriminatoire du modèle.
- Transparence. Les clients et les utilisateurs finaux savent qu’ils interagissent avec l’IA et qu’ils utilisent des fonctions d’IA. GoTo explique comment et où l’IA est incorporée dans les produits et comment elle fonctionne.
- Responsabilité. Des mécanismes de contrôle et d’audit sont mis en œuvre pour identifier les résultats inattendus ou préjudiciables. Les fonctionnalités sont conçues pour permettre une surveillance et un contrôle humains proportionnés aux risques et à la nature de la fonction d’IA.
- Confidentialité et sécurité. GoTo met en place des conceptions de systèmes robustes, soumises régulièrement à des tests et à une surveillance pour protéger les données. Le respect de la vie privée dès la conception est intégré dans la conception des fonctions d’IA, qui sont conçues pour ne traiter que la quantité minimale de données nécessaires à leur finalité.
- Utilisation éthique. L’IA est utilisée à des fins positives et non nuisibles. Des contrôles sont en place pour éviter les hallucinations, la désinformation, les inexactitudes, les infractions aux droits de l’homme et d’autres résultats potentiellement nuisibles de l’IA.
Principe directeur : Notre modèle de confiance en l’IA
L’approche de GoTo en matière de conception de fonctionnalités d’IA consiste à mettre en place des barrières de confiance pour séparer les données des utilisateurs les unes des autres ainsi que de l’infrastructure du produit. Ce modèle considère qu’une infrastructure de confiance ne peut pas inclure plus d’un humain ou modèle d’IA dans la même enclave de confiance, comme le montre le schéma ci-dessous.
Le schéma montre deux utilisateurs, A et B, utilisant un service GoTo qui comprend une fonctionnalité basée sur un LLM, indiquée par la flèche vers un LLM. La ligne rouge représente les barrières de confiance sécurisées qui protègent les informations et les fonctionnalités sensibles, et qui séparent les utilisateurs les uns des autres et de l’infrastructure du produit, y compris le LLM. Ces barrières de confiance autorisent des contrôles de confiance (par exemple contrôles d’authentification, d’autorisation et d’intégrité) quand des flux de commande ou de données les franchissent.
Comme le montre ce schéma , l’utilisateur B n’a pas accès aux données ni aux appareils de l’utilisateur A.
Ce modèle de confiance aide à protéger les Données client contre tout accès ou utilisation non autorisés, et aide à protéger les Services de GoTo des vulnérabilités ou des attaques.
Mécanismes de protection
Lors de la conception d’applications de LLM ou de fonctions basées sur les LLM, GoTo reste conscient des risques spécifiques aux LLM et d’autres risques liés à l’IA, tels que l’injection de requêtes, l’empoisonnement des données d’entraînement et les vulnérabilités de la chaîne d’approvisionnement, et met en œuvre des mesures de protection pour y remédier. Dans le cadre du modèle de confiance de GoTo et des risques généraux liés à l’IA, nous utilisons plusieurs mécanismes détaillés ci-dessous, tels que le contrôle humain et la mutualisation, conçus pour aider nos utilisateurs à bénéficier des applications et des fonctionnalités de l’IA en favorisant la sécurité des données.
Bien que les modèles d’IA fournissent de précieux mécanismes pour automatiser des tâches, générer des réponses à des requêtes et produire divers artefacts, les utilisateurs ne doivent pas perdre de vue que ces modèles diffèrent des services logiciels traditionnels en ce sens qu’ils peuvent produire des réponses incorrectes ou des résultats inattendus. Lorsque vous utilisez des applications basées sur l’IA, la confiance que vous accordez aux résultats des modèles d’IA (y compris les LLM) doit être comparable à celle que vous accordez aux résultats créés par d’autres utilisateurs. En bref, faites confiance mais vérifiez : vous devez toujours vérifier l’exhaustivité et l’exactitude des résultats de l’IA en réponse à vos requêtes.
Dans cet esprit, les mécanismes de protection suivants sont mis en œuvre, le cas échéant, lorsque l’IA est incorporée dans les services GoTo :
- Contrôle humain. Les fonctions d’IA sont conçues pour permettre à l’utilisateur de décider en dernier ressort si et comment il souhaite utiliser le résultat généré par un modèle d’IA (tel qu’un LLM). Les utilisateurs des produits gardent le contrôle, et les actions sensibles exigent l’approbation d’un être humain.
- Mutualisation avec les LLM. GoTo garantit que chaque utilisateur dispose de sessions (conversations) séparées avec le service LLM, qui ne sont pas accessibles aux autres utilisateurs. Cela signifie que les autres utilisateurs ne peuvent pas accéder aux informations sensibles partagées par inadvertance dans une requête.
- Les Données client ne sont pas utilisées par des tiers pour l’entraînement de leur Service de LLM. Lors de la fourniture de fonctions d’IA par un prestataire tiers, ces tiers ont l’interdiction d’utiliser les données des clients de GoTo pour entraînement de leurs modèles.
- Validation des données d’entrée et de sortie. Les Services de GoTo valident le format des entrées par des techniques courantes, notamment les expressions régulières et les analyseurs syntaxiques. Nos Services rejettent certains types de données d’entrée et de résultats inattendus en fonction des résultats de la validation pour réduire les risques de sécurité, éviter la perte ou la dégradation de données et limiter les erreurs. À titre d’exemple, nous filtrons les données d’entrée et résultats inattendus qui semblent être des injections de texte, des requêtes non pertinentes, des données dégradées ou des cas d’erreurs non provoquées.
Transparence : utilisation des fonctionnalités d’IA
Nous nous efforçons d’identifier clairement les Services GoTo qui utilisent des fonctions d’IA. Nous identifions par exemple les fonctionnalités qui utilisent l’IA en toutes lettres ou par une icône d’étincelle, comme illustré ci-dessous. Nos clients ont le choix d’utiliser ou non la fonctionnalité ou le résultat fourni. Dans certains cas, les clients ou les utilisateurs peuvent choisir de désactiver les fonctions d’IA qu’ils ne souhaitent pas utiliser. Pour plus d’informations, veuillez consulter les pages d’assistance spécifiques à chaque produit.
Exemples d’identification des fonctions d’IA :
Transparence : utilisation des données
Dans certains cas limités, et seulement si les clients ont le choix de refuser cette utilisation, GoTo pourra utiliser les données des clients pour entraîner ses modèles d’IA et aider à améliorer la qualité globale des résultats d’un produit. Pour les clients qui choisissent d’autoriser cette utilisation des données, GoTo prend des mesures pour ne traiter que les données nécessaires, en limitant les requêtes des LLM aux détails contextuels essentiels, comme expliqué plus en détail ci-dessous dans la section "Réduction des données". Pour un exemple de cette approche, veuillez consulter la Foire aux questions sur l’utilisation du Contenu utilisateur dans LogMeIn Resolve.
Nous fournissons de plus amples informations sur l’utilisation des fonctions d’IA dans les produits GoTo sur le site Conditions d’utilisation de l’IA de GoTo, qui s’applique à l’utilisation de ces fonctions par un client.
Réduction des données
GoTo cherche à limiter les requêtes des LLM aux détails contextuels essentiels. Par exemple, si un client souhaite inclure des détails contextuels dans des données d’entrée pour améliorer la précision d’un LLM, les Services GoTo cherchent à exploiter seulement les données pertinentes dans le contexte par une technique appelée Génération Augmentée par Récupération (Retrieval-augmented generation ou RAG). Par exemple, lors du diagnostic d’un appareil dans LogMeIn Resolve ou Rescue, nous incluons les données de l’appareil telles que le processeur et la mémoire, mais nous évitons d’inclure toute donnée personnelle sur les utilisateurs de l’appareil.
Moindre privilège et risque basé sur la fonctionnalité
Lors de la conception des services GoTo, y compris des fonctions d’IA, nous suivons une approche fondée sur les risques et le principe du moindre privilège, ce qui signifie qu’un service d’IA n’a accès qu’aux données ou ressources spécifiques nécessaires (c’est-à-dire que nous limitons techniquement l’accès aux données, par exemple par des rôles techniques avec des privilèges d’accès restreints).
Avant de décider de déployer une fonction d’IA, nous évaluons les risques associés à cette fonction. Pour restreindre l’accès de manière appropriée, nous limitons les privilèges et les données auxquels un service d’IA peut accéder à ce qui est nécessaire au fonctionnement de la fonctionnalité.