130 lines
6.4 KiB
Markdown
130 lines
6.4 KiB
Markdown
## TODO LIST
|
||
|
||
- [ ] Introduction du rapport
|
||
- [ ] Toute la première partie d'essaies (*Méthodes de classification essayées* & *Observations initiales*)
|
||
- [ ] Comparaison de perf entre 10 ans et 50 ans (dans *Recalibrage et optimisations*)
|
||
- [ ] Intégrer des morceaux de code dans les parties nécessaires
|
||
- [ ] Mentionner la réduction des données parce que prétraitément très long
|
||
|
||
*Mathéo GUILBERT*
|
||
|
||
# Projet IA5 — Étude : classification des textes par époque
|
||
|
||
TODO: INTRODUCTION A REVOIR
|
||
|
||
---
|
||
|
||
## Contexte et problématique
|
||
|
||
L'objectif principal de cette étude est double :
|
||
|
||
- Évaluer si l'on peut reconnaître, de façon fiable et robuste, l'époque d'un texte uniquement à partir de son vocabulaire et de sa sémantique.
|
||
- Explorer s'il est possible, conceptuellement et techniquement, de « traduire » un texte d'une époque à une autre — c'est‑à‑dire adapter le style et les choix lexicaux pour rendre un texte contemporain semblable à un texte d'une époque donnée.
|
||
|
||
**Problématique :** est‑il possible de reconnaître l'époque d'un texte grâce à ses mots et à sa construction, et jusqu'à quel degré de précision ? Peut‑on ensuite transformer le style pour le rapprocher d'une époque cible ?
|
||
|
||
## Les données
|
||
|
||
Le jeu de données utilisé est `PleIAs/French-PD-Books` ([voir sur Hugging Face](https://huggingface.co/datasets/PleIAs/French-PD-Books)). Il contient environ 289 000 livres complets en français (soit environ 16,407,292,362 mots) avec, pour chaque ouvrage, les données suivantes :
|
||
|
||
* file_id : id du fichier
|
||
* ocr :
|
||
* title : titre du livre
|
||
* date : date de publication, peut être une année simple ou un interval
|
||
* author : nom de l'autheur et ses dates de naissance et décès
|
||
* page_count : nombre de page du livre
|
||
* word_count : nombre de mots du livre
|
||
* character_count : nombre de personnages mentionnés dans le libre (fictifs ou réels)
|
||
* complete_text : texte entier du livre
|
||
|
||
**A noter** : les textes proviennent de scans OCR. Ils contiennent donc beaucoup de bruit : éléments de pagination (numéros de page, en‑têtes, pieds de page), sauts de ligne et retours à la ligne, coupures de mots au passage de ligne, caractères d'échappement, et parfois des erreurs d'OCR. Une étape de prétraitement robuste est donc indispensable avant toute modélisation.
|
||
|
||
### Dates
|
||
|
||
Les dates ne sont pas toutes homogènes, on retrouve les formats suivants :
|
||
|
||
* une année : *1860*
|
||
* un interval d'années : *1929-1931*
|
||
* interval d'années avec valeur manquante : *1876-????* ou *????-1876*
|
||
|
||
Puisque l'objectif est de classifier les livres par date de parution, la donnée importante en plus du texte lui même est la date. Voici un graph illustrant la **répartition des exemples dans le temps**.
|
||
|
||
|
||
|
||
On constate que ce n'est pas très bien répartis, cela pourrait altérer les performamces. Dans un premier temps je n'en tiens pas compte, j'y reviendrais plutard.
|
||
|
||
## Prétraitement des textes
|
||
|
||
Avant de construire des représentations et d'entraîner des modèles, j'ai appliqué plusieurs étapes de nettoyage :
|
||
|
||
* suppression des sauts de ligne et des retours à la ligne, remplacement par des espaces,
|
||
* élimination des caractères non alphabétiques (en conservant les lettres accentuées françaises),
|
||
* suppression partielle des numéros de page
|
||
|
||
La suppression des numéros de pages est une étape délicate car leur mise en forme dépends de l'ouvrage et de l'éditeur le plus souvent. J'ai quand même repéré un écriture récurente : *-- [NUMERO DE PAGE] --*. J'ai supprimé ces cas là.
|
||
|
||
## Méthodes de classification essayées
|
||
|
||
|
||
### Observations initiales
|
||
|
||
|
||
## Recalibrage et optimisations
|
||
|
||
Après ce premier aperçu, plusieurs choix d'optimisation ont été faits :
|
||
|
||
* élargissement de la granularité temporelle : plutôt que prévoir par décénies, j'ai augmenté en périodes de 50 ans. Ce choix vise à capter des tendances lexicale et stylistiques plutôt que des variations annuelles insignifiantes.
|
||
* changement de la métrique d'évaluation : j'ai utilisé la différence moyenne entre la date réelle et la date prédite (MAE temporelle en années) — c'est plus pertinent que la précision (*accuracy*).
|
||
|
||
**En effet, je cherche à m'approcher de la date réelle et non d'être exacte.**
|
||
|
||
* recherche de la plage d'années la plus pertinente pour la clarification. Avec cela j'espère pourvoir améliorer les performances et retrouver des périodes qui s'approchent des mouvements littéraires connus.
|
||
|
||
**TODO :** Remplis ici : résultats comparatifs avant/après agrégation en 50 ans, et évolution de la métrique moyenne (graphique à insérer).
|
||
|
||
### Impacte de la granularité temporelle
|
||
|
||
Pour grouper les données facilement, j'ai fais une méthode `create_period_label`.
|
||
|
||
```py
|
||
|
||
```
|
||
|
||
### Visualisations des différences entre périodes
|
||
|
||
Pour comprendre quelles caractéristiques distinguent les périodes, j'ai généré des nuages de mots par période. Méthode : calcul de TF‑IDF par groupe temporel, puis génération d'un WordCloud à partir des mots les plus importants (somme des scores TF‑IDF sur la période).
|
||
|
||
```py
|
||
# Paramètres pour TF-IDF et Word Cloud
|
||
max_features_tfidf = 5000
|
||
min_df_tfidf = 3 # Ignorer les mots trop rares
|
||
max_df_tfidf = 0.85 # Ignorer les mots trop fréquents
|
||
top_n_words = 100
|
||
|
||
# Calculer le TF-IDF et générer les nuages pour chaque période
|
||
for period, texts in grouped_texts.items():
|
||
try:
|
||
tfidf_vectorizer_period = TfidfVectorizer(
|
||
max_features=max_features_tfidf,
|
||
min_df=min_df_tfidf,
|
||
max_df=max_df_tfidf,
|
||
stop_words=None
|
||
)
|
||
tfidf_matrix = tfidf_vectorizer_period.fit_transform(texts)
|
||
|
||
# Calculer le score TF-IDF total pour chaque mot sur l'ensemble des textes de la période
|
||
# Somme des scores TF-IDF pour chaque terme sur tous les documents de la période
|
||
sum_tfidf = tfidf_matrix.sum(axis=0)
|
||
tfidf_scores = [(feature_names[col], sum_tfidf[0, col]) for col in range(sum_tfidf.shape[1])]
|
||
|
||
# Trier les mots par score TF-IDF décroissant
|
||
tfidf_scores.sort(key=lambda x: x[1], reverse=True)
|
||
|
||
top_words_scores = dict(tfidf_scores[:top_n_words])
|
||
|
||
wordcloud = WordCloud(width=800, height=400, background_color='white').generate_from_frequencies(top_words_scores)
|
||
```
|
||
|
||
Voici le résultat par période de *50 ans*.
|
||
|
||
 |