corpusSummarize - Résumé automatique de corpus

Malgré les contrôles qualité que nous effectuons avant de mettre nos web services en production, les outils d'IA peuvent commettre des erreurs. Nous vous recommandons de vérifier les informations importantes.

Niveau d'utilisation :  Avancé
Niveau de validation :  Expérimental
Objectif

Ce web service analyse un corpus de résumés écrits en anglais pour en générer un résumé.

Méthode

Plusieurs étapes sont réalisées pour parvenir au résumé :

    1. La ressemblance des documents est calculée grâce à leur vectorisation (embedding).
    2. La taille des vecteurs est réduite grâce à l’algorithme UMAP.
    3. Les proximités entre ces vecteurs sont comparés en utilisant la distance cosinus.
    4.  Les documents similaires sont regroupés en clusters (une thématique distincte par cluster) grâce à l’algorithme des k-means. Le nombre de clusters est déterminé de manière automatique.
    5. Pour chaque cluster, sont identifiés les documents les plus représentatifs (les plus proches de l’isobarycentre).
    6. Les mots clés les plus pertinents de l’ensemble des documents de chaque cluster sont extraits grâce au web service Teeft.

Tous ces éléments construisent une base de connaissances restreinte du corpus. Nous utilisons ensuite le modèle gemma-4-31b pour rédiger le résumé.

Métriques

Nous n’avons actuellement ni données ni métriques pour évaluer cette tâche.

Références

Pour l’algorithme UMAP :

Pour l’algorithme des k-means :

Présent sur TDM Factory

Utilisation dans TDM Factory

Ce web service se lance sur :

– un corpus au format CSV
– un corpus Istex au format targz

Absent de Lodex
Variantes

Langues du résumé en sortie

  • Anglais : https://data-corpussummarize.services.istex.fr/v1/abstract?langOutput=en
  • Français : https://data-corpussummarize.services.istex.fr/v1/abstract?langOutput=fr
En poursuivant votre navigation, sans modifier vos paramètres, vous acceptez l'utilisation et le dépôt de cookies destinés à mesurer la fréquentation du site grâce au logiciel Matomo.
OK
Modifier les paramètres