Sentient Labs habilite l'IA : recherche d'inférence Open Source redéfinissant la confiance intelligente

Sentient Labs, qui a levé 85 millions de dollars lors d’un tour de financement de démarrage dirigé par Founders Fund de Peter Thiel, a récemment lancé un nouveau cadre de recherche AI open source - Open Deep Search (ODS). Ce cadre vise à fournir des capacités de recherche, de raisonnement et de vérification à l’IA, afin d’atténuer le problème des hallucinations de l’IA.

Qu’est-ce qu’une hallucination AI ?

L’illusion de l’IA (AI Hallucination) fait référence à des informations générées par des modèles d’IA qui semblent raisonnables mais qui sont en réalité incorrectes. Par exemple :

Inventer des articles ou des citations inexistants

Confondre les faits, les relations de cause à effet ou les lignes temporelles

Tirer des conclusions qui semblent crédibles mais qui sont en réalité erronées.

La cause fondamentale de ce phénomène réside dans le fait que les modèles d’IA actuels reposent principalement sur la reconnaissance des motifs dans les données d’entraînement, plutôt que sur une véritable compréhension et vérification de la véracité des informations.

ODS : Assistant de vérification des faits de l’IA

ODS est un système de proxy de recherche open source collaboratif multi-outils conçu pour fournir des capacités de recherche, d’inférence et de validation pour les modèles d’IA. Ses principaux composants sont les suivants :

Open Search Tool（OST）

OST est capable de comprendre l’intention des utilisateurs, de générer intelligemment des mots-clés de recherche, d’extraire des informations pertinentes sur Internet et de procéder à une réorganisation sémantique, à un filtrage et à une agrégation, afin d’améliorer la qualité et la pertinence des résultats de recherche.

Open Reasoning Agent (ORA)

ORA simule le processus de raisonnement en plusieurs étapes des humains, capable de procéder à des requêtes secondaires de manière proactive en cas d’insuffisance d’informations, d’appeler divers outils ou plugins externes, et même de générer et d’exécuter du code Python pour résoudre des besoins logiques ou de calcul complexes.

Avantages de l’ODS

Interprétabilité : chaque étape de l’ODS est visible, permettant aux utilisateurs de retracer la chaîne de raisonnement et les sources d’information de l’IA, ce qui augmente la transparence et la crédibilité du système.

Personnalisation : ODS prend en charge l’intégration de n’importe quel grand modèle de langage et d’outils ou plugins externes, permettant aux utilisateurs de personnaliser librement les règles d’inférence en fonction de leurs besoins, afin de répondre à différents cas d’utilisation.

Réduire les informations erronées : en croisant plusieurs sources d’information et en effectuant activement des recherches secondaires, ODS peut éviter de tirer des conclusions erronées uniquement sur la base d’une correspondance de mots-clés, ce qui permet de réduire efficacement la propagation des informations erronées, fausses et trompeuses.

Exemples d’application réelle

Domaine médical : Les modèles d’IA peuvent générer des recommandations de diagnostic erronées, entraînant des conséquences graves. En intégrant ODS, les systèmes d’IA médicale peuvent automatiquement rechercher les dernières recherches médicales et les directives d’autorité avant de générer des recommandations de diagnostic, vérifiant ainsi l’exactitude des informations et améliorant ainsi la fiabilité des diagnostics.

Domaine financier : les modèles d’IA peuvent faire des recommandations d’investissement basées sur des données obsolètes ou incorrectes. ODS peut aider les systèmes d’IA financiers à obtenir en temps réel les dernières données de marché et rapports d’analyse, à effectuer des vérifications multiples, garantissant ainsi l’exactitude et l’actualité des recommandations d’investissement.

Résumé

Le lancement d’ODS marque une avancée majeure dans la technologie de recherche AI open source. Il améliore non seulement la transparence et le contrôle des systèmes AI, mais fournit également aux développeurs des outils puissants pour créer des applications AI plus fiables et dignes de confiance. Avec le développement continu d’ODS, nous avons des raisons de croire que l’AI open source jouera un rôle encore plus important dans l’écosystème technologique futur.