#!/usr/bin/env python # coding: utf8 #pour installer nltk stopWords tout est là : http://www.nltk.org/data.html #finalement je n'utilise pas nltk stopWords qui est lacunaire mais ma propre liste import re #from nltk.tokenize import sent_tokenize, word_tokenize #from nltk.corpus import stopwords #POEME_A_REDUIRE = "mirabeau.txt" POEME_A_REDUIRE = "du_cote_de_chez_swann.txt" def load_stopwords(): with open("stopwords-fr.txt", "r") as sw: text_stopwords = sw.read() text_stopwords = text_stopwords[:-1] # pour enlever le retour charriot à la fin return text_stopwords.split("\n") #print("stopwords_list : ", load_stopwords() ) def load_texte_a_reduire(): with open(POEME_A_REDUIRE, "r") as source: texte_original = source.read() texte_original = texte_original[2:] return texte_original #print("texte original :", texte_original) def nettoyer(texte_original): # enlever les traits d'union et les apostrophes et éloigner ponctuation texte_net = texte_original.replace("'", " ") texte_net = texte_net.replace("-", " ") #texte_net = texte_net.replace(".", " .") #texte_net = texte_net.replace(",", " ,") #texte_net = texte_net.replace(";", " ;") #texte_net = texte_net.replace('"', ' " ') return texte_net def verses_list(texte_net): # sépare les vers sur le retour charriot return texte_net.split("\n") def decoupage(verses, mots_interdits): #découpage et réduction # verses est une liste de chaque phrase # mots interdit est une liste de mots l_verses = [] for verse in verses: le_reste =[] mots_du_vers = verse.split(" ") # liste des mots d'un vers for mot in mots_du_vers: if mot.lower() not in mots_interdits: le_reste.append(mot) l_verses.append(le_reste) return l_verses def capitalisation(reste): for l_mot_restant in reste: for i, mot in enumerate(l_mot_restant): if mot:# si le mot existe l_mot_restant[i] = mot.capitalize() break #sort de la dernière boucle et donc ne capitalize #que le premier mot non vide rencontré""" return reste def create_poeme_reduit(reste_capitalize): texte = '' for l_verse_reste in reste_capitalize: verse_restant = ' '.join(l_verse_reste) texte += verse_restant + '\n' return texte # def ponctuer(texte_ponctue): # texte_ponctue = texte_ponctue.replace(" .", ".") # texte_ponctue = texte_ponctue.replace(" ,", ",") # texte_ponctue = texte_ponctue.replace(" ;", ";") # texte_ponctue = texte_ponctue.replace(' " ', '"') # return texte_ponctue #Appel des fonctions texte_original = load_texte_a_reduire() mots_interdits = load_stopwords() texte_net = nettoyer(texte_original) verses = verses_list(texte_net) #tous_les_mots = decoupage_en_mots(verses) #liste_reduite = reduction(tous_les_mots) #print("la liste des vers : ", verses) #print("la liste de tous les mots séparés :", tous_les_mots) #print("mots interdit : ", mots_interdits) #print("liste des mots réduite :", liste_reduite) reste = decoupage(verses, mots_interdits) reste_capitalize = capitalisation(reste) texte_final = create_poeme_reduit(reste_capitalize) #texte_def_def = ponctuer(texte_final) #with open("mirabeau_reduit.txt", "w") as destination : with open("du_cote_de_chez_swann_reduit.txt", "w") as destination : destination.write(texte_final) print ("texte definitif : ", texte_final)