├── environment.yml
├── .gitignore
├── utils.py
├── transcripts
    ├── transcribed_speech_hf_pipelines.txt
    └── transcribed_speech_w_corrected_punctuation.txt
├── README.md
├── LICENSE
├── 2_biomedical_ner_summarization.ipynb
├── 0_speech_recognition.ipynb
└── 1_grammar_punctuation_correction.ipynb


/environment.yml:
--------------------------------------------------------------------------------
 1 | # To use:
 2 | #   $ conda env create -f environment.yml
 3 | #   $ conda activate <name>
 4 | name: machinelearnear-asr-clinical-biomedical-ehr
 5 | dependencies:
 6 |   - python=3.9
 7 |   - pip
 8 |   - nb_conda_kernels
 9 |   - ipykernel
10 |   - ipywidgets
11 |   - gh
12 |   - ffmpeg
13 |   - libsndfile
14 |   - pip:
15 |     - streamlit
16 |     - gradio
17 |     - torch
18 |     - torchaudio
19 |     - transformers
20 |     - librosa
21 |     - thunder-speech
22 |     - pyctcdecode
23 |     - https://github.com/kpu/kenlm/archive/master.zip
24 |     - deepmultilingualpunctuation
25 |     - https://github.com/pyannote/pyannote-audio/archive/develop.zip  
26 |     - stanza
27 |     - youtube-dl
28 |     - fasttext-langdetect
29 |     - wget
30 |     - pyspellchecker
31 |     - autocorrect


--------------------------------------------------------------------------------
/.gitignore:
--------------------------------------------------------------------------------
  1 | # Repo
  2 | downloaded_model/
  3 | latest_silero_models.yml
  4 | test_audio_youtube.m4a
  5 | 
  6 | # Byte-compiled / optimized / DLL files
  7 | __pycache__/
  8 | *.py[cod]
  9 | *$py.class
 10 | 
 11 | # C extensions
 12 | *.so
 13 | 
 14 | # Distribution / packaging
 15 | .Python
 16 | build/
 17 | develop-eggs/
 18 | dist/
 19 | downloads/
 20 | eggs/
 21 | .eggs/
 22 | lib/
 23 | lib64/
 24 | parts/
 25 | sdist/
 26 | var/
 27 | wheels/
 28 | pip-wheel-metadata/
 29 | share/python-wheels/
 30 | *.egg-info/
 31 | .installed.cfg
 32 | *.egg
 33 | MANIFEST
 34 | 
 35 | # PyInstaller
 36 | #  Usually these files are written by a python script from a template
 37 | #  before PyInstaller builds the exe, so as to inject date/other infos into it.
 38 | *.manifest
 39 | *.spec
 40 | 
 41 | # Installer logs
 42 | pip-log.txt
 43 | pip-delete-this-directory.txt
 44 | 
 45 | # Unit test / coverage reports
 46 | htmlcov/
 47 | .tox/
 48 | .nox/
 49 | .coverage
 50 | .coverage.*
 51 | .cache
 52 | nosetests.xml
 53 | coverage.xml
 54 | *.cover
 55 | *.py,cover
 56 | .hypothesis/
 57 | .pytest_cache/
 58 | 
 59 | # Translations
 60 | *.mo
 61 | *.pot
 62 | 
 63 | # Django stuff:
 64 | *.log
 65 | local_settings.py
 66 | db.sqlite3
 67 | db.sqlite3-journal
 68 | 
 69 | # Flask stuff:
 70 | instance/
 71 | .webassets-cache
 72 | 
 73 | # Scrapy stuff:
 74 | .scrapy
 75 | 
 76 | # Sphinx documentation
 77 | docs/_build/
 78 | 
 79 | # PyBuilder
 80 | target/
 81 | 
 82 | # Jupyter Notebook
 83 | .ipynb_checkpoints
 84 | 
 85 | # IPython
 86 | profile_default/
 87 | ipython_config.py
 88 | 
 89 | # pyenv
 90 | .python-version
 91 | 
 92 | # pipenv
 93 | #   According to pypa/pipenv#598, it is recommended to include Pipfile.lock in version control.
 94 | #   However, in case of collaboration, if having platform-specific dependencies or dependencies
 95 | #   having no cross-platform support, pipenv may install dependencies that don't work, or not
 96 | #   install all needed dependencies.
 97 | #Pipfile.lock
 98 | 
 99 | # PEP 582; used by e.g. github.com/David-OConnor/pyflow
100 | __pypackages__/
101 | 
102 | # Celery stuff
103 | celerybeat-schedule
104 | celerybeat.pid
105 | 
106 | # SageMath parsed files
107 | *.sage.py
108 | 
109 | # Environments
110 | .env
111 | .venv
112 | env/
113 | venv/
114 | ENV/
115 | env.bak/
116 | venv.bak/
117 | 
118 | # Spyder project settings
119 | .spyderproject
120 | .spyproject
121 | 
122 | # Rope project settings
123 | .ropeproject
124 | 
125 | # mkdocs documentation
126 | /site
127 | 
128 | # mypy
129 | .mypy_cache/
130 | .dmypy.json
131 | dmypy.json
132 | 
133 | # Pyre type checker
134 | .pyre/
135 | 


--------------------------------------------------------------------------------
/utils.py:
--------------------------------------------------------------------------------
  1 | # source: https://skeptric.com/python-diffs/
  2 | 
  3 | from typing import List, Any, Callable, Tuple, Union
  4 | from IPython.display import HTML, display
  5 | import re
  6 | import difflib
  7 | 
  8 | Token = str
  9 | TokenList = List[Token]
 10 | 
 11 | whitespace = re.compile('\s+')
 12 | end_sentence = re.compile('[.!?]\s+')
 13 | 
 14 | def tokenize(s:str) -> TokenList:
 15 |     '''Split a string into tokens'''
 16 |     return whitespace.split(s)
 17 | 
 18 | def untokenize(ts:TokenList) -> str:
 19 |     '''Join a list of tokens into a string'''
 20 |     return ' '.join(ts)
 21 | 
 22 | def sentencize(s:str) -> TokenList:
 23 |     '''Split a string into a list of sentences'''
 24 |     return end_sentence.split(s)
 25 | 
 26 | def unsentencise(ts:TokenList) -> str:
 27 |     '''Join a list of sentences into a string'''
 28 |     return '. '.join(ts)
 29 | 
 30 | def html_unsentencise(ts:TokenList) -> str:
 31 |     '''Joing a list of sentences into HTML for display'''
 32 |     return ''.join(f'<p>{t}</p>' for t in ts)
 33 | 
 34 | def mark_text(text:str) -> str:
 35 |     return f'<span style="color: red;">{text}</span>'
 36 |     
 37 | def mark_span(text:TokenList) -> TokenList:
 38 |     return [mark_text(token) for token in text]
 39 | 
 40 | def mark_span(text:TokenList) -> TokenList:
 41 |     if len(text) > 0:
 42 |         text[0] = '<span style="background: #FF6502;">' + text[0]
 43 |         text[-1] += '</span>'
 44 |     return text
 45 | 
 46 | def markup_diff(a:TokenList, b:TokenList,
 47 |                 mark:Callable[TokenList, TokenList]=mark_span,
 48 |                 default_mark: Callable[TokenList, TokenList] = lambda x: x,
 49 |                 isjunk:Union[None, Callable[[Token], bool]]=None) -> Tuple[TokenList, TokenList]:
 50 |     """Returns a and b with any differences processed by mark
 51 | 
 52 |     Junk is ignored by the differ
 53 |     """
 54 |     seqmatcher = difflib.SequenceMatcher(isjunk=isjunk, a=a, b=b, autojunk=False)
 55 |     out_a, out_b = [], []
 56 |     for tag, a0, a1, b0, b1 in seqmatcher.get_opcodes():
 57 |         markup = default_mark if tag == 'equal' else mark
 58 |         out_a += markup(a[a0:a1])
 59 |         out_b += markup(b[b0:b1])
 60 |     assert len(out_a) == len(a)
 61 |     assert len(out_b) == len(b)
 62 |     return out_a, out_b
 63 | 
 64 | def align_seqs(a: TokenList, b: TokenList, fill:Token='') -> Tuple[TokenList, TokenList]:
 65 |     out_a, out_b = [], []
 66 |     seqmatcher = difflib.SequenceMatcher(a=a, b=b, autojunk=False)
 67 |     for tag, a0, a1, b0, b1 in seqmatcher.get_opcodes():
 68 |         delta = (a1 - a0) - (b1 - b0)
 69 |         out_a += a[a0:a1] + [fill] * max(-delta, 0)
 70 |         out_b += b[b0:b1] + [fill] * max(delta, 0)
 71 |     assert len(out_a) == len(out_b)
 72 |     return out_a, out_b
 73 | 
 74 | from itertools import zip_longest
 75 | def html_sidebyside(a, b):
 76 |     # Set the panel display
 77 |     out = '<div style="display: grid;grid-template-columns: 1fr 1fr;grid-gap: 20px;">'
 78 |     # There's some CSS in Jupyter notebooks that makes the first pair unalign. This is a workaround
 79 |     out += '<p></p><p></p>'
 80 |     for left, right in zip_longest(a, b, fillvalue=''):
 81 |         out += f'<p>{left}</p>'
 82 |         out += f'<p>{right}</p>'
 83 |         out += '</div>'
 84 |     return out
 85 | 
 86 | import html
 87 | def html_diffs(a, b):
 88 |     a = html.escape(a)
 89 |     b = html.escape(b)
 90 | 
 91 |     out_a, out_b = [], []
 92 |     for sent_a, sent_b in zip(*align_seqs(sentencize(a), sentencize(b))):
 93 |         mark_a, mark_b = markup_diff(tokenize(sent_a), tokenize(sent_b))
 94 |         out_a.append(untokenize(mark_a))
 95 |         out_b.append(untokenize(mark_b))
 96 | 
 97 |     return html_sidebyside(out_a, out_b)
 98 | 
 99 | def show_diffs(a, b):
100 |     display(HTML(html_diffs(a,b)))


--------------------------------------------------------------------------------
/transcripts/transcribed_speech_hf_pipelines.txt:
--------------------------------------------------------------------------------
1 | estamos con marcelo ferre es gastro enterólogo cómo le va a doctor buenas noches unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos la enfermedad de croncque esla enfermedad de cron correcto fernando la enfermedad de cron es una enfermedad inflamatoria del intestino sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética son raras en el sentido del diagnóstico son poco frecuentes hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos uno cada chabitantes puede tener esta enfermedad aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no estar en contacto con ellos el diagnóstico es de difícil acceso eldoctor cuéntenos por ejemplo esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe eldoctor vamos a utilizar una cuestión didáctica esto es un video que nosotros bajamos de las redes como para entender cuálesporahí estamos viendo el aparato digestio correcto en ese aparato digestivo la lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo mortal pero si no se la controla primero si no se la diagnostica no se la controla y no tiene un seguimiento yo puedo intuir que tengo la enfermedad debien digo de cron por qué síntomas lossíntomas más comunes generalmente gente entre  taños esla edad del debut y tienen dolor abdominal pueden tener diarrea pueden tener fiebre pueden tener algún sangrado intestinal pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares es decir es una enfermedad sistémica es una enfermedad que no solamente puede afectar el intestino delgado quees msu parte más frecuente lugar  que lo afecta puede afectar el colón pero también hay enfermedad de crón de estómago de sófago son más raras dentro de la rareza de la propia enfermedad estas también son más raras las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo sino que instruir a través de la palabra de utdsye los profesionales de cómo no puede estar advertido esto porque por ejemplo si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas me comió un lechón y me cayó mal pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico una aproximación yenel caso de hendler aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar si vos me dices yo voy con estos síntomas que acabamos de hablar a un médico clínico por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más pero no significa que el clínico no las pueda diagnosticar también las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente la enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted por ejemplo me diagnosticaría a mí si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de crom es muy importante el enfoque y el apoyo psicológico después el tratamiento médico hoy endía hay tratamiento farmacológico un tratamiento farmacológico con anticuerpos monoclonales es un tratamiento realmente que hoy lo curre en todas las obras sociales es decir tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación también los hábitos de alimentación también estos pacientes tienen una dieta a seguir una dieta más conveniente una dieta saludablerica en fibras con un cuidado especial del intestino no es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro no son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados por qué me habloó el tratamiento psicológico porque es una parte muy importante del paciéntte todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros el resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias doctorcomo mensaje final no hay que temerles estas cosas sino que hay que enfrentarlas y tratarlas totalmente estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad de todos estos pacientes que pueden tener o nos pueden estar escuchando no es sinónimo que van a padecer un cáncer deintestino ni mucho menos tienen exactamente estos pacientes las mismas posibilidades de hacer un cáncer de colón que cualquier otro paciente siempre y cuando estén en tratamiento y en seguimiento rhasido umuy amabl gracias por su tiempo buenas noches


--------------------------------------------------------------------------------
/transcripts/transcribed_speech_w_corrected_punctuation.txt:
--------------------------------------------------------------------------------
1 | Estamos con Marcelo Ferre. es gastro enterólogo. cómo le va a doctor? buenas noches, Unasa ver. hoy charlaba con nuestros compañeros de trabajo y decía: no, pero murió de un cáncer y había otra enfermedad previa. y cómo es estocuéntenos La enfermedad de Croncque? esla enfermedad de Cron, correcto, Fernando? La enfermedad de Cron es una enfermedad inflamatoria del intestino Sque entra dentro del grupo de las enfermedades inflamatorias intestinales, que son enfermedades crónicas, son autoinmunes, tienen una base genética, Son raras en el sentido del diagnóstico, Son poco frecuentes. Hay pacientes en todo el país empacientes con esta enfermedad, nada más, nada más en todo el país, o al menos diagnosticados, Se diagnosticado y conocido, sicon algún seguimiento por parte de sus médicos. Uno cada chabitantes puede tener esta enfermedad, aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido, al no verla y al no estar en contacto con ellos, el diagnóstico es de difícil acceso. Eldoctor, cuéntenos, por ejemplo, esa imagen que estamos observando nosotrosaimagen completa. por favor dire: vamos a agradecer porqe Eldoctor, vamos a utilizar una cuestión didáctica. Esto es un video que nosotros bajamos de las redes, como para entender cuálesporahí Estamos viendo el aparato digestio correcto. en ese aparato digestivo, La lupa se está posando en dónde, en el intestino delgado, yahí va hacía el grueso. ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso, en el delgado o en ambos enambos, desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata. Esta enfermedad es mortal. en realidad es una enfermedad crónica y, como todas las enfermedades crónicas, Yo se la comparo con una diabetes, por ejemploes una enfermedad que puede terminar siendo mortal, pero si no se la controla primero, si no se la diagnostica, no se la controla y no tiene un seguimiento. Yo puedo intuir que tengo la enfermedad, debien digo de cron. por qué síntomas? lossíntomas más comunes, generalmente gente entre taños, esla edad del debut y tienen dolor abdominal. Pueden tener diarrea, Pueden tener fiebre, Pueden tener algún sangrado intestinal, pero a su vez tienen manifestaciones extraintestinales, como pueden ser dolores articulares. Es decir, es una enfermedad sistémica. Es una enfermedad que no solamente puede afectar el intestino delgado, Quees MsU, parte más frecuente, lugar que lo afecta. puede afectar el colón, pero también hay enfermedad de crón, de estómago, de sófago. Son más raras. dentro de la rareza de la propia enfermedad, Estas también son más raras Las localizacione. nosotrosentendemos que en estos espacios, lo que vemos hacer es no llenar de miedo, sino que instruir a través de la palabra de UtDsye Los profesionales, de cómo no puede estar advertido esto? porque, por ejemplo, si tengo diarrea esta noche, no significa que estoy enfermo para itimatología. puede responder un montón de cosas. Me comió un lechón y me cayó mal. pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico, Una aproximación yenel caso de Hendler Aél le demandó como trebarracuatro años para diagnosticarla, porque son difíciles de diagnosticar. al verse poco, son difíciles de diagnosticar. todo depende por donde uno vaya a consultar. Si vos me dices, Yo voy con estos síntomas que acabamos de hablar a un médico clínico Por ahí, es más gamodifícil para el clínico que para un gastro enterólogo, que las vemos más. Pero no significa que el clínico no las pueda diagnosticar. También las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer, que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra? no necesariamente. La enfermedad de crón es una enfermedad, repito, crónica, autinmune, que, si tiene un seguimiento y tiene un tratamiento, no debería terminar en un cancertres patas del tratamiento que usted, por ejemplo, me diagnosticaría a mí. Si usted dice, mireidalgo, usted tiene o padece esta patología, tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque Ese paciente tiene que tener una contención, tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa, menos de a enfermedad de Crom. es muy importante el enfoque y el apoyo psicológico. después el tratamiento médico. hoy endía Hay tratamiento farmacológico, Un tratamiento farmacológico con anticuerpos monoclonales. Es un tratamiento realmente que hoy lo curre en todas las obras sociales. Es decir: tiene tratamiento, no tiene cura, tiene trataiteneso cambia los hábitos de alimentación, También los hábitos de alimentación. También estos pacientes tienen una dieta a seguir, una dieta más conveniente, Una dieta saludablerica en fibras, con un cuidado especial del intestino. No es una dieta que no la pueda hacer, o sea no es algo extraordinario. si vienes una enfermedad rara, cuando se detecta, se la puede tratar. dctor le ha tocado diagnosticar sísss. claro, No son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade, los que están documentados, estadificados y demás. es poco frecuente. Usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados. por qué me habloó el tratamiento psicológico? Porque es una parte muy importante del paciéntte. Todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico, porque están influenciando. se considera quel intestino Es el segundo cerebro y tiene comunicación con nuestro primer cerebro, que es el que la geneque todos conocemoshabitualmente exactamente, y de la armonía de los dos cerebros, El resultado también del seguimiento deestresfastidios, ira, cibilidad, alibrmentaciónmacedentaría, mostavaquismo, alcolismo. bueno, todo lo que te puedas imaginar agrede y tiene sus consecuencias. Doctorcomo mensaje final, No hay que temerles estas cosas, sino que hay que enfrentarlas y tratarlas totalmente. Estos pacientes tienen un seguimiento, tienen un tratamiento, y no es sinónimo ypara tranquilidad De todos estos pacientes que pueden tener o nos pueden estar escuchando. No es sinónimo que van a padecer un cáncer deintestino, ni mucho menos tienen exactamente estos pacientes Las mismas posibilidades de hacer un cáncer de colón que cualquier otro Paciente, siempre y cuando estén en tratamiento y en seguimiento. rhasido Umuy Amabl, gracias por su tiempo. buenas noches.


--------------------------------------------------------------------------------
/README.md:
--------------------------------------------------------------------------------
  1 | # Automatically detect medical entities from speech
  2 | 
  3 | Through this guide, you will learn how to do automatic speech recognition in your language, fix the grammar from that transcribed speech, restore its punctuation, detect biomedical or clinical entities from that text, get a summary of it, and finally how to put everything together.  
  4 | 
  5 | ## Getting started with Automatic Speech Recognition
  6 | - [Intro to Automatic Speech Recognition on 🤗](https://huggingface.co/tasks/automatic-speech-recognition)
  7 | - [Robust Speech Challenge Results on 🤗](https://huggingface.co/spaces/speech-recognition-community-v2/FinalLeaderboard)
  8 | - [Mozilla Common Voice 9.0](https://huggingface.co/datasets/mozilla-foundation/common_voice_9_0)
  9 | - [Thunder-speech, A Hackable speech recognition library](https://scart97.github.io/thunder-speech/Ultimate%20guide/)
 10 | - [SpeechBrain - PyTorch powered speech toolkit](https://speechbrain.github.io/)
 11 | - [Neural building blocks for speaker diarization: speech activity detection, speaker change detection, overlapped speech detection, speaker embedding](https://github.com/pyannote/pyannote-audio)
 12 | - [SPEECH RECOGNITION WITH WAV2VEC2](https://pytorch.org/tutorials/intermediate/speech_recognition_pipeline_tutorial.html)
 13 | - [How to add timestamps to ASR output](https://github.com/huggingface/transformers/issues/11307)
 14 | 
 15 | ## Video Tutorial in YouTube
 16 | [![Como hacer tu propia solución de dictado automático de informes médicos (+ repo)](https://img.youtube.com/vi/_0KGck2JU0w/0.jpg)](https://www.youtube.com/watch?v=_0KGck2JU0w)
 17 | 
 18 | ## Requirements
 19 | - [SageMaker Studio Lab](https://studiolab.sagemaker.aws/) account. See this [explainer video](https://www.youtube.com/watch?v=FUEIwAsrMP4) to learn more about this.
 20 | - Python=3.9
 21 | - PyTorch>=1.10
 22 | - Hugging Face Transformers
 23 | - Several audio processing libraries (see `environment.yml`)
 24 | 
 25 | ## Step by step tutorial
 26 | 
 27 | ### Clone repo and install dependencies
 28 | 
 29 | There are 3 main notebooks to follow, but you can start from `0_speech_recognition.ipynb` [![Open In SageMaker Studio Lab](https://studiolab.sagemaker.aws/studiolab.svg)](https://studiolab.sagemaker.aws/import/github/machinelearnear/asr-restore-punctuation-summarization-biomedical-ehr/blob/main/0_speech_recognition.ipynb)
 30 | 
 31 | Click on `Copy to project` in the top right corner. This will open the Studio Lab web interface and ask you whether you want to clone the entire repo or just the Notebook. Clone the entire repo and click `Yes` when asked about building the `Conda` environment automatically. You will now be running on top of a `Python` environment with all libraries already installed.
 32 | 
 33 | ### Transcribe speech from audio (YouTube)
 34 | 
 35 | Open `0_speech_recognition.ipynb` and run all steps. For more information, please refer back to [this other repo from machinelearnear](https://github.com/machinelearnear/long-audio-transcription-spanish). You will basically download the audio from a YouTube video by providing the VideoID and then generate a transcript that will be saved locally to `/transcripts`.
 36 | 
 37 | ### Fix grammar and restore punctuation
 38 | 
 39 | Open `1_grammar_punctuation_correction.ipynb` and load your transcribed speech. What we want to do now is to first fix the grammar errors and then base out of that fix the punctuation. This order of doing things is random, try it on your own to see what brings better results.
 40 | 
 41 | I have tested a number of libraries to do spellchecking and ended up with `autocorrect` and `pyspellchecker`. Both of them allow for the addition of custom vocabularies to the spell checker (see [this for example](https://github.com/filyp/autocorrect/issues/17)) so here is where you could use your very own list of relevant words in your domain e.g. radiology, pathology, etc. The way that you would run it is as follows:
 42 | 
 43 | ```python
 44 | from spellchecker import SpellChecker
 45 | spell_py = SpellChecker(language='es', distance=2)  # Spanish dictionary
 46 | processed_text = spell_py.correction(input_text)
 47 | ```
 48 | 
 49 | ```python
 50 | from autocorrect import Speller
 51 | spell_autocorrect = Speller(lang='es',only_replacements=True)
 52 | processed_text = spell_autocorrect(input_text)
 53 | ```
 54 | 
 55 | Once we have our corrected text, we apply a model to restore punctuation. There are a number of them, and you can see many links at the bottom of the notebook, but I short-listed it to 2: [deepmultilingualpunctuation](https://github.com/oliverguhr/deepmultilingualpunctuation) and [Silero](https://github.com/snakers4/silero-models#text-enhancement). Both of them allow for the fine-tuning to a specific language. The first library is the one that performs the best even though it was not even trained in Spanish. I'm using a multi-lingual model.
 56 | 
 57 | 
 58 | ```python
 59 | from deepmultilingualpunctuation import PunctuationModel
 60 | model = PunctuationModel(model='oliverguhr/fullstop-punctuation-multilingual-base')
 61 | result = model.restore_punctuation(output_text)
 62 | ```
 63 | 
 64 | ### Detect medical entities (NER) and run summarisation
 65 | 
 66 | To detect medical entities, we are going to be using [Stanza](https://stanfordnlp.github.io/stanza/), "a collection of accurate and efficient tools for the linguistic analysis of many human languages. Starting from raw text to syntactic analysis and entity recognition, Stanza brings state-of-the-art NLP models to languages of your choosing". There are medical NLP models available in Hugging Face through [the Spanish Government's National NLP Plan](https://huggingface.co/PlanTL-GOB-ES) but they are not yet fine-tuned to detect clinical entities such as `disease`, `treatment`, etc.
 67 | 
 68 | ```python
 69 | import stanza
 70 | # download and initialize a mimic pipeline with an i2b2 NER model
 71 | stanza.download('en', package='mimic', processors={'ner': 'i2b2'})
 72 | nlp = stanza.Pipeline('en', package='mimic', processors={'ner': 'i2b2'})
 73 | # annotate clinical text
 74 | doc = nlp(input_text)
 75 | # print out all entities
 76 | for ent in doc.entities:
 77 |     print(f'{ent.text}\t{ent.type}')
 78 | ```
 79 | 
 80 | Summarisation example
 81 | 
 82 | ```python
 83 | # model_name = "google/pegasus-large"
 84 | model_name = "google/pegasus-xsum"
 85 | # model_name = "csebuetnlp/mT5_multilingual_XLSum"
 86 | # model_name = "sshleifer/distilbart-cnn-12-6"
 87 | # model_name = 'ELiRF/NASES'
 88 | from transformers import pipeline
 89 | pipe = pipeline(model=model_name)
 90 | summary = pipe(input_text,truncation=True)
 91 | print(summary[0]['summary_text'])
 92 | ```
 93 | 
 94 | ## Keep reading
 95 | - [Pyctcdecode & Speech2text decoding](https://www.youtube.com/watch?v=mp7fHMTnK9A&t=5s)
 96 | - [XLS-R: Large-Scale Cross-lingual Speech Representation Learning on 128 Languages](https://www.youtube.com/watch?v=ic_J7ZCROBM)
 97 | - [Unlocking global speech with Mozilla Common Voice](https://www.youtube.com/watch?v=Vvn984QmAVg)
 98 | - [Reconocimiento automático de voz con Python y HuggingFace en segundos (+ Repo)](https://www.youtube.com/watch?v=wFjPxz22MEs)
 99 | - [“SomosNLP”, red internacional de estudiantes, profesionales e investigadores acelerando el avance del NLP en español](https://somosnlp.org/)
100 | - [How to Write a Spelling Corrector](https://norvig.com/spell-correct.html )
101 | - [Build Spell Checking Models For Any Language In Python](https://medium.com/mlearning-ai/build-spell-checking-models-for-any-language-in-python-aa4489df0a5f )
102 | - [Grammatical Error Correction](http://nlpprogress.com/english/grammatical_error_correction.html )
103 | - [FullStop: Multilingual Deep Models for Punctuation Prediction](http://ceur-ws.org/Vol-2957/sepp_paper4.pdf)
104 | - [BioMedIA: Abstractive Question Answering for the BioMedical Domain in Spanish](https://huggingface.co/spaces/hackathon-pln-es/BioMedIA)
105 | - [PlanTL-GOB-ES/bsc-bio-ehr-es-pharmaconer](https://huggingface.co/PlanTL-GOB-ES/bsc-bio-ehr-es-pharmaconer )
106 | - [Host Hugging Face transformer models using Amazon SageMaker Serverless Inference](https://aws.amazon.com/de/blogs/machine-learning/host-hugging-face-transformer-models-using-amazon-sagemaker-serverless-inference/)
107 | 
108 | ## Citations
109 | ```bibtex
110 | Peng Qi, Yuhao Zhang, Yuhui Zhang, Jason Bolton and Christopher D. Manning. 2020. Stanza: A Python Natural Language Processing Toolkit for Many Human Languages. In Association for Computational Linguistics (ACL) System Demonstrations. 2020. [pdf][bib]
111 | 
112 | Yuhao Zhang, Yuhui Zhang, Peng Qi, Christopher D. Manning, Curtis P. Langlotz. Biomedical and Clinical English Model Packages in the Stanza Python NLP Library, Journal of the American Medical Informatics Association. 2021.
113 | ```
114 | 
115 | ## Disclaimer
116 | - The content provided in this repository is for demonstration purposes and not meant for production. You should use your own discretion when using the content.
117 | - The ideas and opinions outlined in these examples are my own and do not represent the opinions of AWS.
118 | 


--------------------------------------------------------------------------------
/LICENSE:
--------------------------------------------------------------------------------
  1 |                                  Apache License
  2 |                            Version 2.0, January 2004
  3 |                         http://www.apache.org/licenses/
  4 | 
  5 |    TERMS AND CONDITIONS FOR USE, REPRODUCTION, AND DISTRIBUTION
  6 | 
  7 |    1. Definitions.
  8 | 
  9 |       "License" shall mean the terms and conditions for use, reproduction,
 10 |       and distribution as defined by Sections 1 through 9 of this document.
 11 | 
 12 |       "Licensor" shall mean the copyright owner or entity authorized by
 13 |       the copyright owner that is granting the License.
 14 | 
 15 |       "Legal Entity" shall mean the union of the acting entity and all
 16 |       other entities that control, are controlled by, or are under common
 17 |       control with that entity. For the purposes of this definition,
 18 |       "control" means (i) the power, direct or indirect, to cause the
 19 |       direction or management of such entity, whether by contract or
 20 |       otherwise, or (ii) ownership of fifty percent (50%) or more of the
 21 |       outstanding shares, or (iii) beneficial ownership of such entity.
 22 | 
 23 |       "You" (or "Your") shall mean an individual or Legal Entity
 24 |       exercising permissions granted by this License.
 25 | 
 26 |       "Source" form shall mean the preferred form for making modifications,
 27 |       including but not limited to software source code, documentation
 28 |       source, and configuration files.
 29 | 
 30 |       "Object" form shall mean any form resulting from mechanical
 31 |       transformation or translation of a Source form, including but
 32 |       not limited to compiled object code, generated documentation,
 33 |       and conversions to other media types.
 34 | 
 35 |       "Work" shall mean the work of authorship, whether in Source or
 36 |       Object form, made available under the License, as indicated by a
 37 |       copyright notice that is included in or attached to the work
 38 |       (an example is provided in the Appendix below).
 39 | 
 40 |       "Derivative Works" shall mean any work, whether in Source or Object
 41 |       form, that is based on (or derived from) the Work and for which the
 42 |       editorial revisions, annotations, elaborations, or other modifications
 43 |       represent, as a whole, an original work of authorship. For the purposes
 44 |       of this License, Derivative Works shall not include works that remain
 45 |       separable from, or merely link (or bind by name) to the interfaces of,
 46 |       the Work and Derivative Works thereof.
 47 | 
 48 |       "Contribution" shall mean any work of authorship, including
 49 |       the original version of the Work and any modifications or additions
 50 |       to that Work or Derivative Works thereof, that is intentionally
 51 |       submitted to Licensor for inclusion in the Work by the copyright owner
 52 |       or by an individual or Legal Entity authorized to submit on behalf of
 53 |       the copyright owner. For the purposes of this definition, "submitted"
 54 |       means any form of electronic, verbal, or written communication sent
 55 |       to the Licensor or its representatives, including but not limited to
 56 |       communication on electronic mailing lists, source code control systems,
 57 |       and issue tracking systems that are managed by, or on behalf of, the
 58 |       Licensor for the purpose of discussing and improving the Work, but
 59 |       excluding communication that is conspicuously marked or otherwise
 60 |       designated in writing by the copyright owner as "Not a Contribution."
 61 | 
 62 |       "Contributor" shall mean Licensor and any individual or Legal Entity
 63 |       on behalf of whom a Contribution has been received by Licensor and
 64 |       subsequently incorporated within the Work.
 65 | 
 66 |    2. Grant of Copyright License. Subject to the terms and conditions of
 67 |       this License, each Contributor hereby grants to You a perpetual,
 68 |       worldwide, non-exclusive, no-charge, royalty-free, irrevocable
 69 |       copyright license to reproduce, prepare Derivative Works of,
 70 |       publicly display, publicly perform, sublicense, and distribute the
 71 |       Work and such Derivative Works in Source or Object form.
 72 | 
 73 |    3. Grant of Patent License. Subject to the terms and conditions of
 74 |       this License, each Contributor hereby grants to You a perpetual,
 75 |       worldwide, non-exclusive, no-charge, royalty-free, irrevocable
 76 |       (except as stated in this section) patent license to make, have made,
 77 |       use, offer to sell, sell, import, and otherwise transfer the Work,
 78 |       where such license applies only to those patent claims licensable
 79 |       by such Contributor that are necessarily infringed by their
 80 |       Contribution(s) alone or by combination of their Contribution(s)
 81 |       with the Work to which such Contribution(s) was submitted. If You
 82 |       institute patent litigation against any entity (including a
 83 |       cross-claim or counterclaim in a lawsuit) alleging that the Work
 84 |       or a Contribution incorporated within the Work constitutes direct
 85 |       or contributory patent infringement, then any patent licenses
 86 |       granted to You under this License for that Work shall terminate
 87 |       as of the date such litigation is filed.
 88 | 
 89 |    4. Redistribution. You may reproduce and distribute copies of the
 90 |       Work or Derivative Works thereof in any medium, with or without
 91 |       modifications, and in Source or Object form, provided that You
 92 |       meet the following conditions:
 93 | 
 94 |       (a) You must give any other recipients of the Work or
 95 |           Derivative Works a copy of this License; and
 96 | 
 97 |       (b) You must cause any modified files to carry prominent notices
 98 |           stating that You changed the files; and
 99 | 
100 |       (c) You must retain, in the Source form of any Derivative Works
101 |           that You distribute, all copyright, patent, trademark, and
102 |           attribution notices from the Source form of the Work,
103 |           excluding those notices that do not pertain to any part of
104 |           the Derivative Works; and
105 | 
106 |       (d) If the Work includes a "NOTICE" text file as part of its
107 |           distribution, then any Derivative Works that You distribute must
108 |           include a readable copy of the attribution notices contained
109 |           within such NOTICE file, excluding those notices that do not
110 |           pertain to any part of the Derivative Works, in at least one
111 |           of the following places: within a NOTICE text file distributed
112 |           as part of the Derivative Works; within the Source form or
113 |           documentation, if provided along with the Derivative Works; or,
114 |           within a display generated by the Derivative Works, if and
115 |           wherever such third-party notices normally appear. The contents
116 |           of the NOTICE file are for informational purposes only and
117 |           do not modify the License. You may add Your own attribution
118 |           notices within Derivative Works that You distribute, alongside
119 |           or as an addendum to the NOTICE text from the Work, provided
120 |           that such additional attribution notices cannot be construed
121 |           as modifying the License.
122 | 
123 |       You may add Your own copyright statement to Your modifications and
124 |       may provide additional or different license terms and conditions
125 |       for use, reproduction, or distribution of Your modifications, or
126 |       for any such Derivative Works as a whole, provided Your use,
127 |       reproduction, and distribution of the Work otherwise complies with
128 |       the conditions stated in this License.
129 | 
130 |    5. Submission of Contributions. Unless You explicitly state otherwise,
131 |       any Contribution intentionally submitted for inclusion in the Work
132 |       by You to the Licensor shall be under the terms and conditions of
133 |       this License, without any additional terms or conditions.
134 |       Notwithstanding the above, nothing herein shall supersede or modify
135 |       the terms of any separate license agreement you may have executed
136 |       with Licensor regarding such Contributions.
137 | 
138 |    6. Trademarks. This License does not grant permission to use the trade
139 |       names, trademarks, service marks, or product names of the Licensor,
140 |       except as required for reasonable and customary use in describing the
141 |       origin of the Work and reproducing the content of the NOTICE file.
142 | 
143 |    7. Disclaimer of Warranty. Unless required by applicable law or
144 |       agreed to in writing, Licensor provides the Work (and each
145 |       Contributor provides its Contributions) on an "AS IS" BASIS,
146 |       WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or
147 |       implied, including, without limitation, any warranties or conditions
148 |       of TITLE, NON-INFRINGEMENT, MERCHANTABILITY, or FITNESS FOR A
149 |       PARTICULAR PURPOSE. You are solely responsible for determining the
150 |       appropriateness of using or redistributing the Work and assume any
151 |       risks associated with Your exercise of permissions under this License.
152 | 
153 |    8. Limitation of Liability. In no event and under no legal theory,
154 |       whether in tort (including negligence), contract, or otherwise,
155 |       unless required by applicable law (such as deliberate and grossly
156 |       negligent acts) or agreed to in writing, shall any Contributor be
157 |       liable to You for damages, including any direct, indirect, special,
158 |       incidental, or consequential damages of any character arising as a
159 |       result of this License or out of the use or inability to use the
160 |       Work (including but not limited to damages for loss of goodwill,
161 |       work stoppage, computer failure or malfunction, or any and all
162 |       other commercial damages or losses), even if such Contributor
163 |       has been advised of the possibility of such damages.
164 | 
165 |    9. Accepting Warranty or Additional Liability. While redistributing
166 |       the Work or Derivative Works thereof, You may choose to offer,
167 |       and charge a fee for, acceptance of support, warranty, indemnity,
168 |       or other liability obligations and/or rights consistent with this
169 |       License. However, in accepting such obligations, You may act only
170 |       on Your own behalf and on Your sole responsibility, not on behalf
171 |       of any other Contributor, and only if You agree to indemnify,
172 |       defend, and hold each Contributor harmless for any liability
173 |       incurred by, or claims asserted against, such Contributor by reason
174 |       of your accepting any such warranty or additional liability.
175 | 
176 |    END OF TERMS AND CONDITIONS
177 | 
178 |    APPENDIX: How to apply the Apache License to your work.
179 | 
180 |       To apply the Apache License to your work, attach the following
181 |       boilerplate notice, with the fields enclosed by brackets "[]"
182 |       replaced with your own identifying information. (Don't include
183 |       the brackets!)  The text should be enclosed in the appropriate
184 |       comment syntax for the file format. We also recommend that a
185 |       file or class name and description of purpose be included on the
186 |       same "printed page" as the copyright notice for easier
187 |       identification within third-party archives.
188 | 
189 |    Copyright [yyyy] [name of copyright owner]
190 | 
191 |    Licensed under the Apache License, Version 2.0 (the "License");
192 |    you may not use this file except in compliance with the License.
193 |    You may obtain a copy of the License at
194 | 
195 |        http://www.apache.org/licenses/LICENSE-2.0
196 | 
197 |    Unless required by applicable law or agreed to in writing, software
198 |    distributed under the License is distributed on an "AS IS" BASIS,
199 |    WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
200 |    See the License for the specific language governing permissions and
201 |    limitations under the License.
202 | 


--------------------------------------------------------------------------------
/2_biomedical_ner_summarization.ipynb:
--------------------------------------------------------------------------------
  1 | {
  2 |  "cells": [
  3 |   {
  4 |    "cell_type": "markdown",
  5 |    "id": "47d4231e-aefd-439a-83df-3dbbab9f30ec",
  6 |    "metadata": {},
  7 |    "source": [
  8 |     "# Detect medical entities from transcribed speech"
  9 |    ]
 10 |   },
 11 |   {
 12 |    "cell_type": "code",
 13 |    "execution_count": 1,
 14 |    "id": "efbc0a00-7696-4cf7-a167-270d112dd532",
 15 |    "metadata": {},
 16 |    "outputs": [],
 17 |    "source": [
 18 |     "input_text = open('transcripts/transcribed_speech_w_corrected_punctuation.txt','r').readlines()[0]"
 19 |    ]
 20 |   },
 21 |   {
 22 |    "cell_type": "markdown",
 23 |    "id": "0c3cd15a-e205-402a-939d-7018d757dbe9",
 24 |    "metadata": {
 25 |     "tags": []
 26 |    },
 27 |    "source": [
 28 |     "## Use `stanza-nlp`\n",
 29 |     "- https://stanfordnlp.github.io/stanza/\n",
 30 |     "- https://stanfordnlp.github.io/stanza/available_biomed_models.html\n",
 31 |     "- https://stanfordnlp.github.io/stanza/biomed_model_usage.html"
 32 |    ]
 33 |   },
 34 |   {
 35 |    "cell_type": "code",
 36 |    "execution_count": 2,
 37 |    "id": "dda4e5f8-59d5-4508-ae38-27bcc1f99671",
 38 |    "metadata": {},
 39 |    "outputs": [],
 40 |    "source": [
 41 |     "import stanza"
 42 |    ]
 43 |   },
 44 |   {
 45 |    "cell_type": "code",
 46 |    "execution_count": 3,
 47 |    "id": "ded69277-626f-4130-ab75-568f96a0c166",
 48 |    "metadata": {},
 49 |    "outputs": [
 50 |     {
 51 |      "data": {
 52 |       "application/vnd.jupyter.widget-view+json": {
 53 |        "model_id": "ba4ada694f3f443dbc7e7fd24e3bfb6a",
 54 |        "version_major": 2,
 55 |        "version_minor": 0
 56 |       },
 57 |       "text/plain": [
 58 |        "Downloading https://raw.githubusercontent.com/stanfordnlp/stanza-resources/main/resources_1.4.0.json:   0%|   …"
 59 |       ]
 60 |      },
 61 |      "metadata": {},
 62 |      "output_type": "display_data"
 63 |     },
 64 |     {
 65 |      "name": "stderr",
 66 |      "output_type": "stream",
 67 |      "text": [
 68 |       "2022-05-15 14:04:47 WARNING: Can not find ner: i2b2 from official model list. Ignoring it.\n",
 69 |       "2022-05-15 14:04:47 WARNING: Can not find package: mimic.\n",
 70 |       "2022-05-15 14:04:47 INFO: Downloading these customized packages for language: es (Spanish)...\n",
 71 |       "=======================\n",
 72 |       "| Processor | Package |\n",
 73 |       "-----------------------\n",
 74 |       "=======================\n",
 75 |       "\n",
 76 |       "2022-05-15 14:04:47 INFO: Finished downloading models and saved to /home/studio-lab-user/stanza_resources.\n"
 77 |      ]
 78 |     },
 79 |     {
 80 |      "data": {
 81 |       "application/vnd.jupyter.widget-view+json": {
 82 |        "model_id": "22ce69e1b0674bd8b255136955254bb0",
 83 |        "version_major": 2,
 84 |        "version_minor": 0
 85 |       },
 86 |       "text/plain": [
 87 |        "Downloading https://raw.githubusercontent.com/stanfordnlp/stanza-resources/main/resources_1.4.0.json:   0%|   …"
 88 |       ]
 89 |      },
 90 |      "metadata": {},
 91 |      "output_type": "display_data"
 92 |     },
 93 |     {
 94 |      "data": {
 95 |       "application/vnd.jupyter.widget-view+json": {
 96 |        "model_id": "dce9cd738329440589358d33fff7a38e",
 97 |        "version_major": 2,
 98 |        "version_minor": 0
 99 |       },
100 |       "text/plain": [
101 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/tokenize/mimic.pt:   0%|       …"
102 |       ]
103 |      },
104 |      "metadata": {},
105 |      "output_type": "display_data"
106 |     },
107 |     {
108 |      "data": {
109 |       "application/vnd.jupyter.widget-view+json": {
110 |        "model_id": "eef7e690383d48dcba0712504d91fc09",
111 |        "version_major": 2,
112 |        "version_minor": 0
113 |       },
114 |       "text/plain": [
115 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/pos/mimic.pt:   0%|          | …"
116 |       ]
117 |      },
118 |      "metadata": {},
119 |      "output_type": "display_data"
120 |     },
121 |     {
122 |      "data": {
123 |       "application/vnd.jupyter.widget-view+json": {
124 |        "model_id": "3b132c2d881b4751a2f9dff4353b0628",
125 |        "version_major": 2,
126 |        "version_minor": 0
127 |       },
128 |       "text/plain": [
129 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/lemma/mimic.pt:   0%|          …"
130 |       ]
131 |      },
132 |      "metadata": {},
133 |      "output_type": "display_data"
134 |     },
135 |     {
136 |      "data": {
137 |       "application/vnd.jupyter.widget-view+json": {
138 |        "model_id": "dce96d9c0d5e4eefa17842a50e2e9079",
139 |        "version_major": 2,
140 |        "version_minor": 0
141 |       },
142 |       "text/plain": [
143 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/depparse/mimic.pt:   0%|       …"
144 |       ]
145 |      },
146 |      "metadata": {},
147 |      "output_type": "display_data"
148 |     },
149 |     {
150 |      "data": {
151 |       "application/vnd.jupyter.widget-view+json": {
152 |        "model_id": "e2358c2b81b44f318ee9199a5d2dbdc3",
153 |        "version_major": 2,
154 |        "version_minor": 0
155 |       },
156 |       "text/plain": [
157 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/ner/i2b2.pt:   0%|          | 0…"
158 |       ]
159 |      },
160 |      "metadata": {},
161 |      "output_type": "display_data"
162 |     },
163 |     {
164 |      "data": {
165 |       "application/vnd.jupyter.widget-view+json": {
166 |        "model_id": "3f8fd8c0fe6f49e1adf7e4f8bb4efbb3",
167 |        "version_major": 2,
168 |        "version_minor": 0
169 |       },
170 |       "text/plain": [
171 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/backward_charlm/mimic.pt:   0%|…"
172 |       ]
173 |      },
174 |      "metadata": {},
175 |      "output_type": "display_data"
176 |     },
177 |     {
178 |      "data": {
179 |       "application/vnd.jupyter.widget-view+json": {
180 |        "model_id": "c6f56a05412f401a9f83e9f11f83b621",
181 |        "version_major": 2,
182 |        "version_minor": 0
183 |       },
184 |       "text/plain": [
185 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/forward_charlm/mimic.pt:   0%| …"
186 |       ]
187 |      },
188 |      "metadata": {},
189 |      "output_type": "display_data"
190 |     },
191 |     {
192 |      "data": {
193 |       "application/vnd.jupyter.widget-view+json": {
194 |        "model_id": "3569144aebf04447a4e26bc0fb81e616",
195 |        "version_major": 2,
196 |        "version_minor": 0
197 |       },
198 |       "text/plain": [
199 |        "Downloading https://huggingface.co/stanfordnlp/stanza-en/resolve/v1.4.0/models/pretrain/mimic.pt:   0%|       …"
200 |       ]
201 |      },
202 |      "metadata": {},
203 |      "output_type": "display_data"
204 |     },
205 |     {
206 |      "name": "stderr",
207 |      "output_type": "stream",
208 |      "text": [
209 |       "2022-05-15 14:04:56 INFO: Loading these models for language: en (English):\n",
210 |       "=======================\n",
211 |       "| Processor | Package |\n",
212 |       "-----------------------\n",
213 |       "| tokenize  | mimic   |\n",
214 |       "| pos       | mimic   |\n",
215 |       "| lemma     | mimic   |\n",
216 |       "| depparse  | mimic   |\n",
217 |       "| ner       | i2b2    |\n",
218 |       "=======================\n",
219 |       "\n",
220 |       "2022-05-15 14:04:56 INFO: Use device: cpu\n",
221 |       "2022-05-15 14:04:56 INFO: Loading: tokenize\n",
222 |       "2022-05-15 14:04:56 INFO: Loading: pos\n",
223 |       "2022-05-15 14:04:56 INFO: Loading: lemma\n",
224 |       "2022-05-15 14:04:56 INFO: Loading: depparse\n",
225 |       "2022-05-15 14:04:56 INFO: Loading: ner\n",
226 |       "2022-05-15 14:04:57 INFO: Done loading processors!\n"
227 |      ]
228 |     },
229 |     {
230 |      "name": "stdout",
231 |      "output_type": "stream",
232 |      "text": [
233 |       "previa\tPROBLEM\n",
234 |       "intestinales\tPROBLEM\n",
235 |       "Eldoctor\tTEST\n",
236 |       "esa\tTREATMENT\n",
237 |       "una diabetes\tPROBLEM\n",
238 |       "qué síntomas\tPROBLEM\n",
239 |       "lossíntomas\tTEST\n",
240 |       "a su vez tienen manifestaciones extraintestinales\tTREATMENT\n",
241 |       "También\tTREATMENT\n",
242 |       "necesariamente\tPROBLEM\n",
243 |       "cibilidad\tTREATMENT\n",
244 |       "alibrmentaciónmacedentaría\tTREATMENT\n",
245 |       "mostavaquismo\tTREATMENT\n",
246 |       "alcolismo\tTREATMENT\n"
247 |      ]
248 |     }
249 |    ],
250 |    "source": [
251 |     "# download and initialize a mimic pipeline with an i2b2 NER model\n",
252 |     "stanza.download('en', package='mimic', processors={'ner': 'i2b2'})\n",
253 |     "nlp = stanza.Pipeline('en', package='mimic', processors={'ner': 'i2b2'})"
254 |    ]
255 |   },
256 |   {
257 |    "cell_type": "code",
258 |    "execution_count": 7,
259 |    "id": "be3ec37f-869c-4fd1-bdd6-a47b4adf457a",
260 |    "metadata": {},
261 |    "outputs": [
262 |     {
263 |      "name": "stdout",
264 |      "output_type": "stream",
265 |      "text": [
266 |       "previa\tPROBLEM\n",
267 |       "intestinales\tPROBLEM\n",
268 |       "Eldoctor\tTEST\n",
269 |       "esa\tTREATMENT\n",
270 |       "una diabetes\tPROBLEM\n",
271 |       "qué síntomas\tPROBLEM\n",
272 |       "lossíntomas\tTEST\n",
273 |       "a su vez tienen manifestaciones extraintestinales\tTREATMENT\n",
274 |       "También\tTREATMENT\n",
275 |       "necesariamente\tPROBLEM\n",
276 |       "cibilidad\tTREATMENT\n",
277 |       "alibrmentaciónmacedentaría\tTREATMENT\n",
278 |       "mostavaquismo\tTREATMENT\n",
279 |       "alcolismo\tTREATMENT\n"
280 |      ]
281 |     }
282 |    ],
283 |    "source": [
284 |     "# annotate clinical text\n",
285 |     "doc = nlp(input_text)\n",
286 |     "# print out all entities\n",
287 |     "for ent in doc.entities:\n",
288 |     "    print(f'{ent.text}\\t{ent.type}')"
289 |    ]
290 |   },
291 |   {
292 |    "cell_type": "markdown",
293 |    "id": "a826affe-307a-4fcf-bab0-f2c24252c6e9",
294 |    "metadata": {},
295 |    "source": [
296 |     "## Summarization with Hugging Face Transformers"
297 |    ]
298 |   },
299 |   {
300 |    "cell_type": "code",
301 |    "execution_count": 4,
302 |    "id": "56178d30-10e7-4530-9971-ebd616fc73a4",
303 |    "metadata": {},
304 |    "outputs": [],
305 |    "source": [
306 |     "# model_name = \"google/pegasus-large\"\n",
307 |     "model_name = \"google/pegasus-xsum\"\n",
308 |     "# model_name = \"csebuetnlp/mT5_multilingual_XLSum\"\n",
309 |     "# model_name = \"sshleifer/distilbart-cnn-12-6\"\n",
310 |     "# model_name = 'ELiRF/NASES'"
311 |    ]
312 |   },
313 |   {
314 |    "cell_type": "code",
315 |    "execution_count": 5,
316 |    "id": "fb667d41-1308-45bc-9cd1-a9b1aaa79964",
317 |    "metadata": {},
318 |    "outputs": [
319 |     {
320 |      "data": {
321 |       "application/vnd.jupyter.widget-view+json": {
322 |        "model_id": "1ba297fc85484859b983e12a1eb5698d",
323 |        "version_major": 2,
324 |        "version_minor": 0
325 |       },
326 |       "text/plain": [
327 |        "Downloading:   0%|          | 0.00/1.67k [00:00<?, ?B/s]"
328 |       ]
329 |      },
330 |      "metadata": {},
331 |      "output_type": "display_data"
332 |     },
333 |     {
334 |      "data": {
335 |       "application/vnd.jupyter.widget-view+json": {
336 |        "model_id": "ff2bd694077b4c8ead19295a43ff8c3f",
337 |        "version_major": 2,
338 |        "version_minor": 0
339 |       },
340 |       "text/plain": [
341 |        "Downloading:   0%|          | 0.00/1.36k [00:00<?, ?B/s]"
342 |       ]
343 |      },
344 |      "metadata": {},
345 |      "output_type": "display_data"
346 |     },
347 |     {
348 |      "data": {
349 |       "application/vnd.jupyter.widget-view+json": {
350 |        "model_id": "b3285b17b79043889d5bbdd7f7e3c328",
351 |        "version_major": 2,
352 |        "version_minor": 0
353 |       },
354 |       "text/plain": [
355 |        "Downloading:   0%|          | 0.00/2.12G [00:00<?, ?B/s]"
356 |       ]
357 |      },
358 |      "metadata": {},
359 |      "output_type": "display_data"
360 |     },
361 |     {
362 |      "data": {
363 |       "application/vnd.jupyter.widget-view+json": {
364 |        "model_id": "a973e458f3c84fc3b83c0d543e2208d9",
365 |        "version_major": 2,
366 |        "version_minor": 0
367 |       },
368 |       "text/plain": [
369 |        "Downloading:   0%|          | 0.00/87.0 [00:00<?, ?B/s]"
370 |       ]
371 |      },
372 |      "metadata": {},
373 |      "output_type": "display_data"
374 |     },
375 |     {
376 |      "data": {
377 |       "application/vnd.jupyter.widget-view+json": {
378 |        "model_id": "3535e5d149304d1196932b94da9862e4",
379 |        "version_major": 2,
380 |        "version_minor": 0
381 |       },
382 |       "text/plain": [
383 |        "Downloading:   0%|          | 0.00/1.82M [00:00<?, ?B/s]"
384 |       ]
385 |      },
386 |      "metadata": {},
387 |      "output_type": "display_data"
388 |     },
389 |     {
390 |      "data": {
391 |       "application/vnd.jupyter.widget-view+json": {
392 |        "model_id": "5ddd9928fb5a4829be000bc6d136a006",
393 |        "version_major": 2,
394 |        "version_minor": 0
395 |       },
396 |       "text/plain": [
397 |        "Downloading:   0%|          | 0.00/3.36M [00:00<?, ?B/s]"
398 |       ]
399 |      },
400 |      "metadata": {},
401 |      "output_type": "display_data"
402 |     },
403 |     {
404 |      "data": {
405 |       "application/vnd.jupyter.widget-view+json": {
406 |        "model_id": "b528328014c24e3aaa40f6bf6e06832e",
407 |        "version_major": 2,
408 |        "version_minor": 0
409 |       },
410 |       "text/plain": [
411 |        "Downloading:   0%|          | 0.00/65.0 [00:00<?, ?B/s]"
412 |       ]
413 |      },
414 |      "metadata": {},
415 |      "output_type": "display_data"
416 |     }
417 |    ],
418 |    "source": [
419 |     "from transformers import pipeline\n",
420 |     "pipe = pipeline(model=model_name)"
421 |    ]
422 |   },
423 |   {
424 |    "cell_type": "code",
425 |    "execution_count": 14,
426 |    "id": "c124c601-512e-4e01-8746-520bc960eac4",
427 |    "metadata": {},
428 |    "outputs": [],
429 |    "source": [
430 |     "summary = pipe(input_text,truncation=True)"
431 |    ]
432 |   },
433 |   {
434 |    "cell_type": "code",
435 |    "execution_count": 17,
436 |    "id": "2ba0705e-e432-434b-a681-52be9b46eb8c",
437 |    "metadata": {},
438 |    "outputs": [
439 |     {
440 |      "name": "stdout",
441 |      "output_type": "stream",
442 |      "text": [
443 |       "La enfermedad de Cron es una enfermedad inflamatoria del intestino Sque entra dentro del grupo de las enfermedades inflamatorias.\n"
444 |      ]
445 |     }
446 |    ],
447 |    "source": [
448 |     "print(summary[0]['summary_text'])"
449 |    ]
450 |   }
451 |  ],
452 |  "metadata": {
453 |   "kernelspec": {
454 |    "display_name": "machinelearnear-asr-clinical-biomedical-ehr:Python",
455 |    "language": "python",
456 |    "name": "conda-env-machinelearnear-asr-clinical-biomedical-ehr-py"
457 |   },
458 |   "language_info": {
459 |    "codemirror_mode": {
460 |     "name": "ipython",
461 |     "version": 3
462 |    },
463 |    "file_extension": ".py",
464 |    "mimetype": "text/x-python",
465 |    "name": "python",
466 |    "nbconvert_exporter": "python",
467 |    "pygments_lexer": "ipython3",
468 |    "version": "3.9.12"
469 |   }
470 |  },
471 |  "nbformat": 4,
472 |  "nbformat_minor": 5
473 | }
474 | 


--------------------------------------------------------------------------------
/0_speech_recognition.ipynb:
--------------------------------------------------------------------------------
  1 | {
  2 |  "cells": [
  3 |   {
  4 |    "cell_type": "markdown",
  5 |    "id": "d1c77592-6089-4784-882d-9d580cf17cb7",
  6 |    "metadata": {},
  7 |    "source": [
  8 |     "# Long-form audio transcription using Hugging Face Transformers\n",
  9 |     "Source: https://github.com/machinelearnear/long-audio-transcription-spanish"
 10 |    ]
 11 |   },
 12 |   {
 13 |    "cell_type": "code",
 14 |    "execution_count": 1,
 15 |    "id": "1550f7bf-f574-4cff-805e-12b2cfe3f081",
 16 |    "metadata": {},
 17 |    "outputs": [],
 18 |    "source": [
 19 |     "import time\n",
 20 |     "from os.path import exists as path_exists\n",
 21 |     "from pathlib import Path"
 22 |    ]
 23 |   },
 24 |   {
 25 |    "cell_type": "code",
 26 |    "execution_count": 2,
 27 |    "id": "ea02b3ec-2529-4ad5-bd48-020adbef5d87",
 28 |    "metadata": {},
 29 |    "outputs": [],
 30 |    "source": [
 31 |     "if not path_exists('transcripts'):\n",
 32 |     "    !mkdir transcripts"
 33 |    ]
 34 |   },
 35 |   {
 36 |    "cell_type": "markdown",
 37 |    "id": "7ec17367-9c61-41ab-9673-a7c7e9ffb1ae",
 38 |    "metadata": {
 39 |     "tags": []
 40 |    },
 41 |    "source": [
 42 |     "## Download audio from YouTube video"
 43 |    ]
 44 |   },
 45 |   {
 46 |    "cell_type": "code",
 47 |    "execution_count": 3,
 48 |    "id": "6e75937b-3932-40d7-911c-270a02ef1815",
 49 |    "metadata": {},
 50 |    "outputs": [],
 51 |    "source": [
 52 |     "YouTubeID = 'q0Zq5DKKZWs' # ¿Qué es la enfermedad de Crohn y cómo detectarla?\n",
 53 |     "OutputFile = 'test_audio_youtube.m4a'"
 54 |    ]
 55 |   },
 56 |   {
 57 |    "cell_type": "code",
 58 |    "execution_count": 4,
 59 |    "id": "d1b44aa6-d803-4b6c-9b67-ca93c03a453c",
 60 |    "metadata": {},
 61 |    "outputs": [
 62 |     {
 63 |      "name": "stdout",
 64 |      "output_type": "stream",
 65 |      "text": [
 66 |       "[youtube] q0Zq5DKKZWs: Downloading webpage\n",
 67 |       "[youtube] q0Zq5DKKZWs: Downloading MPD manifest\n",
 68 |       "[download] Destination: test_audio_youtube.m4a\n",
 69 |       "\u001b[K[download] 100% of 6.50MiB in 01:2595KiB/s ETA 00:004\n",
 70 |       "[ffmpeg] Correcting container in \"test_audio_youtube.m4a\"\n",
 71 |       "[ffmpeg] Post-process file test_audio_youtube.m4a exists, skipping\n"
 72 |      ]
 73 |     }
 74 |    ],
 75 |    "source": [
 76 |     "if not path_exists(OutputFile):\n",
 77 |     "    !youtube-dl -o $OutputFile $YouTubeID --extract-audio --restrict-filenames -f 'bestaudio[ext=m4a]'"
 78 |    ]
 79 |   },
 80 |   {
 81 |    "cell_type": "markdown",
 82 |    "id": "4c5e10fc-68b7-4a3f-b8fc-5bd38874594c",
 83 |    "metadata": {},
 84 |    "source": [
 85 |     "## End to End Automatic Speech Recognition"
 86 |    ]
 87 |   },
 88 |   {
 89 |    "cell_type": "markdown",
 90 |    "id": "6d3196b3-6172-4d81-9cd3-7f7d391c43d2",
 91 |    "metadata": {},
 92 |    "source": [
 93 |     "Choose best models from this list: https://huggingface.co/spaces/speech-recognition-community-v2/FinalLeaderboard"
 94 |    ]
 95 |   },
 96 |   {
 97 |    "cell_type": "code",
 98 |    "execution_count": 5,
 99 |    "id": "b2717b5d-46fa-4493-a7f7-d214666db611",
100 |    "metadata": {},
101 |    "outputs": [],
102 |    "source": [
103 |     "model_name = \"jonatasgrosman/wav2vec2-xls-r-1b-spanish\""
104 |    ]
105 |   },
106 |   {
107 |    "cell_type": "code",
108 |    "execution_count": 6,
109 |    "id": "e4880622-2cdc-4a11-8a3f-f250808bb6ed",
110 |    "metadata": {},
111 |    "outputs": [],
112 |    "source": [
113 |     "def save_to_file(transcript, text=None):\n",
114 |     "    with open(f'transcripts/transcribed_speech_{text}.txt', \"w\") as f:\n",
115 |     "        f.write(transcript)"
116 |    ]
117 |   },
118 |   {
119 |    "cell_type": "markdown",
120 |    "id": "fb7331b8-4f19-4627-8d7e-9a66f532bd5d",
121 |    "metadata": {},
122 |    "source": [
123 |     "### Process long audio file directly with `Pipelines`"
124 |    ]
125 |   },
126 |   {
127 |    "cell_type": "code",
128 |    "execution_count": 7,
129 |    "id": "aa414299-bac3-4145-9e6c-891aabe2317c",
130 |    "metadata": {},
131 |    "outputs": [
132 |     {
133 |      "name": "stderr",
134 |      "output_type": "stream",
135 |      "text": [
136 |       "/home/studio-lab-user/.conda/envs/machinelearnear-asr-clinical-biomedical-ehr/lib/python3.9/site-packages/paramiko/transport.py:236: CryptographyDeprecationWarning: Blowfish has been deprecated\n",
137 |       "  \"class\": algorithms.Blowfish,\n"
138 |      ]
139 |     }
140 |    ],
141 |    "source": [
142 |     "import librosa\n",
143 |     "from transformers import pipeline"
144 |    ]
145 |   },
146 |   {
147 |    "cell_type": "code",
148 |    "execution_count": 8,
149 |    "id": "eb3ced5c-49ca-477a-a7df-f3e12c516d85",
150 |    "metadata": {},
151 |    "outputs": [
152 |     {
153 |      "data": {
154 |       "application/vnd.jupyter.widget-view+json": {
155 |        "model_id": "21edd1ea72f24956a0703aa64555f15c",
156 |        "version_major": 2,
157 |        "version_minor": 0
158 |       },
159 |       "text/plain": [
160 |        "Downloading:   0%|          | 0.00/4.48k [00:00<?, ?B/s]"
161 |       ]
162 |      },
163 |      "metadata": {},
164 |      "output_type": "display_data"
165 |     },
166 |     {
167 |      "data": {
168 |       "application/vnd.jupyter.widget-view+json": {
169 |        "model_id": "3af92dba324141b7a9deb93761aaeb23",
170 |        "version_major": 2,
171 |        "version_minor": 0
172 |       },
173 |       "text/plain": [
174 |        "Downloading:   0%|          | 0.00/3.59G [00:00<?, ?B/s]"
175 |       ]
176 |      },
177 |      "metadata": {},
178 |      "output_type": "display_data"
179 |     },
180 |     {
181 |      "data": {
182 |       "application/vnd.jupyter.widget-view+json": {
183 |        "model_id": "63b16f96d4b84e559f649faf71622c63",
184 |        "version_major": 2,
185 |        "version_minor": 0
186 |       },
187 |       "text/plain": [
188 |        "Downloading:   0%|          | 0.00/314 [00:00<?, ?B/s]"
189 |       ]
190 |      },
191 |      "metadata": {},
192 |      "output_type": "display_data"
193 |     },
194 |     {
195 |      "data": {
196 |       "application/vnd.jupyter.widget-view+json": {
197 |        "model_id": "0f9203cd00cd475f94d07ea521770838",
198 |        "version_major": 2,
199 |        "version_minor": 0
200 |       },
201 |       "text/plain": [
202 |        "Downloading:   0%|          | 0.00/370 [00:00<?, ?B/s]"
203 |       ]
204 |      },
205 |      "metadata": {},
206 |      "output_type": "display_data"
207 |     },
208 |     {
209 |      "data": {
210 |       "application/vnd.jupyter.widget-view+json": {
211 |        "model_id": "92439662591f4b07ab35c5a18ea44bf5",
212 |        "version_major": 2,
213 |        "version_minor": 0
214 |       },
215 |       "text/plain": [
216 |        "Downloading:   0%|          | 0.00/85.0 [00:00<?, ?B/s]"
217 |       ]
218 |      },
219 |      "metadata": {},
220 |      "output_type": "display_data"
221 |     },
222 |     {
223 |      "data": {
224 |       "application/vnd.jupyter.widget-view+json": {
225 |        "model_id": "1699145636be4c0dafef3c93007733fd",
226 |        "version_major": 2,
227 |        "version_minor": 0
228 |       },
229 |       "text/plain": [
230 |        "Downloading:   0%|          | 0.00/260 [00:00<?, ?B/s]"
231 |       ]
232 |      },
233 |      "metadata": {},
234 |      "output_type": "display_data"
235 |     },
236 |     {
237 |      "name": "stderr",
238 |      "output_type": "stream",
239 |      "text": [
240 |       "Could not load the `decoder` for jonatasgrosman/wav2vec2-xls-r-1b-spanish. Defaulting to raw CTC. Try to install `pyctcdecode` and `kenlm`: (`pip install pyctcdecode`, `pip install https://github.com/kpu/kenlm/archive/master.zip`): Error: No module named 'kenlm'\n"
241 |      ]
242 |     }
243 |    ],
244 |    "source": [
245 |     "pipe = pipeline(model=model_name)"
246 |    ]
247 |   },
248 |   {
249 |    "cell_type": "code",
250 |    "execution_count": 9,
251 |    "id": "10c7ec23-b477-4d11-a902-e3617c4ea241",
252 |    "metadata": {},
253 |    "outputs": [
254 |     {
255 |      "name": "stderr",
256 |      "output_type": "stream",
257 |      "text": [
258 |       "/home/studio-lab-user/.conda/envs/machinelearnear-asr-clinical-biomedical-ehr/lib/python3.9/site-packages/librosa/util/decorators.py:88: UserWarning: PySoundFile failed. Trying audioread instead.\n",
259 |       "  return f(*args, **kwargs)\n"
260 |      ]
261 |     }
262 |    ],
263 |    "source": [
264 |     "speech, sample_rate = librosa.load(OutputFile,sr=16000)"
265 |    ]
266 |   },
267 |   {
268 |    "cell_type": "code",
269 |    "execution_count": 10,
270 |    "id": "5da12838-4eb6-4d05-b5a5-587b36514acc",
271 |    "metadata": {},
272 |    "outputs": [
273 |     {
274 |      "name": "stdout",
275 |      "output_type": "stream",
276 |      "text": [
277 |       "total time: 665.79 seconds\n"
278 |      ]
279 |     }
280 |    ],
281 |    "source": [
282 |     "stime = time.time()\n",
283 |     "transcript = pipe(speech, chunk_length_s=10, stride_length_s=(4,2))\n",
284 |     "print(f'total time: {time.time()-stime:.2f} seconds')"
285 |    ]
286 |   },
287 |   {
288 |    "cell_type": "code",
289 |    "execution_count": 11,
290 |    "id": "3511adb2-150a-4117-880e-dcf309741591",
291 |    "metadata": {},
292 |    "outputs": [
293 |     {
294 |      "name": "stdout",
295 |      "output_type": "stream",
296 |      "text": [
297 |       "estamos con marcelo ferre es gastro enterólogo cómo le va a doctor buenas noches unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos la enfermedad de croncque esla enfermedad de cron correcto fernando la enfermedad de cron es una enfermedad inflamatoria del intestino sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética son raras en el sentido del diagnóstico son poco frecuentes hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos uno cada chabitantes puede tener esta enfermedad aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no estar en contacto con ellos el diagnóstico es de difícil acceso eldoctor cuéntenos por ejemplo esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe eldoctor vamos a utilizar una cuestión didáctica esto es un video que nosotros bajamos de las redes como para entender cuálesporahí estamos viendo el aparato digestio correcto en ese aparato digestivo la lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo mortal pero si no se la controla primero si no se la diagnostica no se la controla y no tiene un seguimiento yo puedo intuir que tengo la enfermedad debien digo de cron por qué síntomas lossíntomas más comunes generalmente gente entre  taños esla edad del debut y tienen dolor abdominal pueden tener diarrea pueden tener fiebre pueden tener algún sangrado intestinal pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares es decir es una enfermedad sistémica es una enfermedad que no solamente puede afectar el intestino delgado quees msu parte más frecuente lugar  que lo afecta puede afectar el colón pero también hay enfermedad de crón de estómago de sófago son más raras dentro de la rareza de la propia enfermedad estas también son más raras las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo sino que instruir a través de la palabra de utdsye los profesionales de cómo no puede estar advertido esto porque por ejemplo si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas me comió un lechón y me cayó mal pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico una aproximación yenel caso de hendler aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar si vos me dices yo voy con estos síntomas que acabamos de hablar a un médico clínico por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más pero no significa que el clínico no las pueda diagnosticar también las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente la enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted por ejemplo me diagnosticaría a mí si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de crom es muy importante el enfoque y el apoyo psicológico después el tratamiento médico hoy endía hay tratamiento farmacológico un tratamiento farmacológico con anticuerpos monoclonales es un tratamiento realmente que hoy lo curre en todas las obras sociales es decir tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación también los hábitos de alimentación también estos pacientes tienen una dieta a seguir una dieta más conveniente una dieta saludablerica en fibras con un cuidado especial del intestino no es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro no son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados por qué me habloó el tratamiento psicológico porque es una parte muy importante del paciéntte todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros el resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias doctorcomo mensaje final no hay que temerles estas cosas sino que hay que enfrentarlas y tratarlas totalmente estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad de todos estos pacientes que pueden tener o nos pueden estar escuchando no es sinónimo que van a padecer un cáncer deintestino ni mucho menos tienen exactamente estos pacientes las mismas posibilidades de hacer un cáncer de colón que cualquier otro paciente siempre y cuando estén en tratamiento y en seguimiento rhasido umuy amabl gracias por su tiempo buenas noches\n"
298 |      ]
299 |     }
300 |    ],
301 |    "source": [
302 |     "print(transcript['text'])\n",
303 |     "save_to_file(transcript['text'],text='hf_pipelines')"
304 |    ]
305 |   },
306 |   {
307 |    "cell_type": "markdown",
308 |    "id": "ebfccbe7-e7fa-4cb8-ac00-1e3e01122399",
309 |    "metadata": {},
310 |    "source": [
311 |     "## References"
312 |    ]
313 |   },
314 |   {
315 |    "cell_type": "markdown",
316 |    "id": "4d500173-0460-445e-8ebc-bc395c9f5d02",
317 |    "metadata": {},
318 |    "source": [
319 |     "- [Making automatic speech recognition work on large files with Wav2Vec2 in Transformers](https://huggingface.co/blog/asr-chunking)\n",
320 |     "- [Boosting Wav2Vec2 with n-grams in Transformers](https://huggingface.co/blog/wav2vec2-with-ngram)\n",
321 |     "- https://huggingface.co/jonatasgrosman/wav2vec2-xls-r-1b-spanish\n",
322 |     "- https://huggingface.co/jonatasgrosman/wav2vec2-large-xlsr-53-spanish\n",
323 |     "- https://huggingface.co/spaces/speech-recognition-community-v2/FinalLeaderboard"
324 |    ]
325 |   }
326 |  ],
327 |  "metadata": {
328 |   "kernelspec": {
329 |    "display_name": "machinelearnear-asr-clinical-biomedical-ehr:Python",
330 |    "language": "python",
331 |    "name": "conda-env-machinelearnear-asr-clinical-biomedical-ehr-py"
332 |   },
333 |   "language_info": {
334 |    "codemirror_mode": {
335 |     "name": "ipython",
336 |     "version": 3
337 |    },
338 |    "file_extension": ".py",
339 |    "mimetype": "text/x-python",
340 |    "name": "python",
341 |    "nbconvert_exporter": "python",
342 |    "pygments_lexer": "ipython3",
343 |    "version": "3.9.12"
344 |   }
345 |  },
346 |  "nbformat": 4,
347 |  "nbformat_minor": 5
348 | }
349 | 


--------------------------------------------------------------------------------
/1_grammar_punctuation_correction.ipynb:
--------------------------------------------------------------------------------
  1 | {
  2 |  "cells": [
  3 |   {
  4 |    "cell_type": "markdown",
  5 |    "id": "54167e9c-e214-4079-a4e1-49fbb0cc44ac",
  6 |    "metadata": {},
  7 |    "source": [
  8 |     "# Restore Punctuation with Hugging Face Transformers"
  9 |    ]
 10 |   },
 11 |   {
 12 |    "cell_type": "markdown",
 13 |    "id": "7599a193-b905-49a3-882b-c68e8d1963b7",
 14 |    "metadata": {},
 15 |    "source": [
 16 |     "## Fix grammar mistakes"
 17 |    ]
 18 |   },
 19 |   {
 20 |    "cell_type": "markdown",
 21 |    "id": "06230192-7d96-4d29-a1fa-864841172516",
 22 |    "metadata": {},
 23 |    "source": [
 24 |     "### Load transcript"
 25 |    ]
 26 |   },
 27 |   {
 28 |    "cell_type": "code",
 29 |    "execution_count": 1,
 30 |    "id": "a207b52f-4731-46b3-bd2a-91dd0b541751",
 31 |    "metadata": {
 32 |     "tags": []
 33 |    },
 34 |    "outputs": [],
 35 |    "source": [
 36 |     "input_text = open('transcripts/transcribed_speech_hf_pipelines.txt','r').readlines()[0]"
 37 |    ]
 38 |   },
 39 |   {
 40 |    "cell_type": "code",
 41 |    "execution_count": 2,
 42 |    "id": "75498413-5cd3-4511-9bef-96411fa55042",
 43 |    "metadata": {},
 44 |    "outputs": [
 45 |     {
 46 |      "data": {
 47 |       "text/plain": [
 48 |        "'estamos con marcelo ferre es gastro enterólogo cómo le va a doctor buenas noches unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos la enfermedad de croncque esla enfermedad de cron correcto fernando la enfermedad de cron es una enfermedad inflamatoria del intestino sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética son raras en el sentido del diagnóstico son poco frecuentes hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos uno cada chabitantes puede tener esta enfermedad aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no estar en contacto con ellos el diagnóstico es de difícil acceso eldoctor cuéntenos por ejemplo esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe eldoctor vamos a utilizar una cuestión didáctica esto es un video que nosotros bajamos de las redes como para entender cuálesporahí estamos viendo el aparato digestio correcto en ese aparato digestivo la lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo mortal pero si no se la controla primero si no se la diagnostica no se la controla y no tiene un seguimiento yo puedo intuir que tengo la enfermedad debien digo de cron por qué síntomas lossíntomas más comunes generalmente gente entre  taños esla edad del debut y tienen dolor abdominal pueden tener diarrea pueden tener fiebre pueden tener algún sangrado intestinal pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares es decir es una enfermedad sistémica es una enfermedad que no solamente puede afectar el intestino delgado quees msu parte más frecuente lugar  que lo afecta puede afectar el colón pero también hay enfermedad de crón de estómago de sófago son más raras dentro de la rareza de la propia enfermedad estas también son más raras las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo sino que instruir a través de la palabra de utdsye los profesionales de cómo no puede estar advertido esto porque por ejemplo si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas me comió un lechón y me cayó mal pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico una aproximación yenel caso de hendler aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar si vos me dices yo voy con estos síntomas que acabamos de hablar a un médico clínico por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más pero no significa que el clínico no las pueda diagnosticar también las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente la enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted por ejemplo me diagnosticaría a mí si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de crom es muy importante el enfoque y el apoyo psicológico después el tratamiento médico hoy endía hay tratamiento farmacológico un tratamiento farmacológico con anticuerpos monoclonales es un tratamiento realmente que hoy lo curre en todas las obras sociales es decir tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación también los hábitos de alimentación también estos pacientes tienen una dieta a seguir una dieta más conveniente una dieta saludablerica en fibras con un cuidado especial del intestino no es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro no son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados por qué me habloó el tratamiento psicológico porque es una parte muy importante del paciéntte todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros el resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias doctorcomo mensaje final no hay que temerles estas cosas sino que hay que enfrentarlas y tratarlas totalmente estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad de todos estos pacientes que pueden tener o nos pueden estar escuchando no es sinónimo que van a padecer un cáncer deintestino ni mucho menos tienen exactamente estos pacientes las mismas posibilidades de hacer un cáncer de colón que cualquier otro paciente siempre y cuando estén en tratamiento y en seguimiento rhasido umuy amabl gracias por su tiempo buenas noches'"
 49 |       ]
 50 |      },
 51 |      "execution_count": 2,
 52 |      "metadata": {},
 53 |      "output_type": "execute_result"
 54 |     }
 55 |    ],
 56 |    "source": [
 57 |     "input_text"
 58 |    ]
 59 |   },
 60 |   {
 61 |    "cell_type": "markdown",
 62 |    "id": "4c6f7d2b-1447-4cf6-bb07-d3e4d38c9806",
 63 |    "metadata": {},
 64 |    "source": [
 65 |     "### Using `pyspellchecker`\n",
 66 |     "- https://pyspellchecker.readthedocs.io/en/latest/index.html"
 67 |    ]
 68 |   },
 69 |   {
 70 |    "cell_type": "code",
 71 |    "execution_count": 3,
 72 |    "id": "8905ab42-d40e-4d66-9084-0df199260433",
 73 |    "metadata": {},
 74 |    "outputs": [],
 75 |    "source": [
 76 |     "from spellchecker import SpellChecker\n",
 77 |     "\n",
 78 |     "spell_py = SpellChecker(language='es', distance=2)  # Spanish dictionary"
 79 |    ]
 80 |   },
 81 |   {
 82 |    "cell_type": "code",
 83 |    "execution_count": 4,
 84 |    "id": "5333c425-2c6e-4fd4-8558-d0789a034dbe",
 85 |    "metadata": {},
 86 |    "outputs": [
 87 |     {
 88 |      "name": "stdout",
 89 |      "output_type": "stream",
 90 |      "text": [
 91 |       "estamos con marcelo ferre es gastro enterólogo cómo le va a doctor buenas noches unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos la enfermedad de croncque esla enfermedad de cron correcto fernando la enfermedad de cron es una enfermedad inflamatoria del intestino sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética son raras en el sentido del diagnóstico son poco frecuentes hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos uno cada chabitantes puede tener esta enfermedad aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no estar en contacto con ellos el diagnóstico es de difícil acceso eldoctor cuéntenos por ejemplo esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe eldoctor vamos a utilizar una cuestión didáctica esto es un video que nosotros bajamos de las redes como para entender cuálesporahí estamos viendo el aparato digestio correcto en ese aparato digestivo la lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo mortal pero si no se la controla primero si no se la diagnostica no se la controla y no tiene un seguimiento yo puedo intuir que tengo la enfermedad debien digo de cron por qué síntomas lossíntomas más comunes generalmente gente entre  taños esla edad del debut y tienen dolor abdominal pueden tener diarrea pueden tener fiebre pueden tener algún sangrado intestinal pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares es decir es una enfermedad sistémica es una enfermedad que no solamente puede afectar el intestino delgado quees msu parte más frecuente lugar  que lo afecta puede afectar el colón pero también hay enfermedad de crón de estómago de sófago son más raras dentro de la rareza de la propia enfermedad estas también son más raras las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo sino que instruir a través de la palabra de utdsye los profesionales de cómo no puede estar advertido esto porque por ejemplo si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas me comió un lechón y me cayó mal pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico una aproximación yenel caso de hendler aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar si vos me dices yo voy con estos síntomas que acabamos de hablar a un médico clínico por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más pero no significa que el clínico no las pueda diagnosticar también las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente la enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted por ejemplo me diagnosticaría a mí si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de crom es muy importante el enfoque y el apoyo psicológico después el tratamiento médico hoy endía hay tratamiento farmacológico un tratamiento farmacológico con anticuerpos monoclonales es un tratamiento realmente que hoy lo curre en todas las obras sociales es decir tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación también los hábitos de alimentación también estos pacientes tienen una dieta a seguir una dieta más conveniente una dieta saludablerica en fibras con un cuidado especial del intestino no es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro no son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados por qué me habloó el tratamiento psicológico porque es una parte muy importante del paciéntte todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros el resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias doctorcomo mensaje final no hay que temerles estas cosas sino que hay que enfrentarlas y tratarlas totalmente estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad de todos estos pacientes que pueden tener o nos pueden estar escuchando no es sinónimo que van a padecer un cáncer deintestino ni mucho menos tienen exactamente estos pacientes las mismas posibilidades de hacer un cáncer de colón que cualquier otro paciente siempre y cuando estén en tratamiento y en seguimiento rhasido umuy amabl gracias por su tiempo buenas noches\n"
 92 |      ]
 93 |     }
 94 |    ],
 95 |    "source": [
 96 |     "processed_text = spell_py.correction(input_text)\n",
 97 |     "print(processed_text)"
 98 |    ]
 99 |   },
100 |   {
101 |    "cell_type": "markdown",
102 |    "id": "212e957f-f278-4d75-a67c-2ec39ec9ab96",
103 |    "metadata": {},
104 |    "source": [
105 |     "### Using `autocorrect`\n",
106 |     "- https://github.com/filyp/autocorrect"
107 |    ]
108 |   },
109 |   {
110 |    "cell_type": "code",
111 |    "execution_count": 5,
112 |    "id": "2d82bbca-88f9-4939-bed4-ef3311d5cd19",
113 |    "metadata": {},
114 |    "outputs": [],
115 |    "source": [
116 |     "from autocorrect import Speller\n",
117 |     "spell_autocorrect = Speller(lang='es',only_replacements=True)"
118 |    ]
119 |   },
120 |   {
121 |    "cell_type": "code",
122 |    "execution_count": 6,
123 |    "id": "66df5199-1fd9-434d-88f8-982bd79b0bc4",
124 |    "metadata": {},
125 |    "outputs": [
126 |     {
127 |      "name": "stdout",
128 |      "output_type": "stream",
129 |      "text": [
130 |       "estamos con marcelo ferre es gastro entomólogo cómo le va a doctor buenas noches usada ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos la enfermedad de croncque esta enfermedad de cron correcto fernando la enfermedad de cron es una enfermedad inflamatoria del intestino ique entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética son raras en el sentido del diagnóstico son poco frecuentes hay pacientes en todo el país impacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados se diagnosticado y conocido simon algún seguimiento por parte de sus médicos uno cada chabitantes puede tener esta enfermedad aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticaron en el sentido al no verla y al no estar en contacto con ellos el diagnóstico es de difícil acceso eldoctor cuéntenos por ejemplo esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porte eldoctor vamos a utilizar una cuestión didáctica esto es un video que nosotros basamos de las redes como para entender cuálesporahí estamos viendo el aparato digestio correcto en ese aparato digestivo la lupa se está posando en dónde en el intestino delgado yang va hacía el grueso ahí va abadía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano color eso las complicaciones tremendas perlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas yo se la compara con una diabetes por ejemploes una enfermedad que puede terminar siendo mortal pero si no se la controla primero si no se la diagnostica no se la controla y no tiene un seguimiento yo puedo intuir que tengo la enfermedad debian digo de cron por qué síntomas lossíntomas más comunes generalmente gente entre  daños esta edad del debut y tienen dolor abdominal pueden tener diarrea pueden tener fiebre pueden tener algún sangrado intestinal pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares es decir es una enfermedad sistémica es una enfermedad que no solamente puede afectar el intestino delgado quees msu parte más frecuente lugar  que lo afecta puede afectar el colón pero también hay enfermedad de crin de estómago de sótano son más raras dentro de la rareza de la propia enfermedad estas también son más raras las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo sino que instruir a través de la palabra de utdsye los profesionales de cómo no puede estar advertido esto porque por ejemplo si tengo diarrea esta noche no significa que estoy enfermo para climatología puede responder un montón de cosas me comió un lechón y me cayó mal pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico una aproximación yenes caso de handler all le demandó como trebarracuatro años para diagnosticaron porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar si vos me dices yo voy con estos síntomas que acabamos de hablar a un médico clínico por ahí es más gamodifícil para el clínico que para un gastro entomólogo que las vemos más pero no significa que el clínico no las pueda diagnosticar también las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa variada a la otra no necesariamente la enfermedad de crin es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted por ejemplo me diagnosticaron a mí si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de from es muy importante el enfoque y el apoyo psicológico después el tratamiento médico hoy envía hay tratamiento farmacológico un tratamiento farmacológico con anticuerpos monoclonales es un tratamiento realmente que hoy lo cubre en todas las obras sociales es decir tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación también los hábitos de alimentación también estos pacientes tienen una dieta a seguir una dieta más conveniente una dieta saludablerica en fibras con un cuidado especial del intestino no es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar actor le ha tocado diagnosticar swiss claro no son muchos los pacientes que hahn el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente usted ha podido llevar adelante buenos tratamientos sirenas buenos resultados por qué me hablar el tratamiento psicológico porque es una parte muy importante del paciéntte todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la penique todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros el resultado también del seguimiento deestresfastidios ira civilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias doctorcomo mensaje final no hay que tenerlos estas cosas sino que hay que enfrentarlos y tratarlas totalmente estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ópera tranquilidad de todos estos pacientes que pueden tener o nos pueden estar escuchando no es sinónimo que van a padecer un cáncer deintestino ni mucho menos tienen exactamente estos pacientes las mismas posibilidades de hacer un cáncer de colón que cualquier otro paciente siempre y cuando estén en tratamiento y en seguimiento rhasido emmy amaba gracias por su tiempo buenas noches\n"
131 |      ]
132 |     }
133 |    ],
134 |    "source": [
135 |     "processed_text_b = spell_autocorrect(input_text)\n",
136 |     "print(processed_text_b)"
137 |    ]
138 |   },
139 |   {
140 |    "cell_type": "markdown",
141 |    "id": "6eff5f93-0aba-466d-b1bf-22dca757f2e7",
142 |    "metadata": {},
143 |    "source": [
144 |     "## Using Silero \n",
145 |     "Source: https://colab.research.google.com/github/snakers4/silero-models/blob/master/examples_te.ipynb"
146 |    ]
147 |   },
148 |   {
149 |    "cell_type": "code",
150 |    "execution_count": 7,
151 |    "id": "e34b7012-3379-4f6b-983f-613bbaa282f6",
152 |    "metadata": {},
153 |    "outputs": [],
154 |    "source": [
155 |     "import os\n",
156 |     "import yaml\n",
157 |     "import torch\n",
158 |     "from torch import package\n",
159 |     "\n",
160 |     "torch.hub.download_url_to_file('https://raw.githubusercontent.com/snakers4/silero-models/master/models.yml',\n",
161 |     "                               'latest_silero_models.yml',\n",
162 |     "                               progress=False)\n",
163 |     "\n",
164 |     "with open('latest_silero_models.yml', 'r') as yaml_file:\n",
165 |     "    models = yaml.load(yaml_file, Loader=yaml.SafeLoader)\n",
166 |     "model_conf = models.get('te_models').get('latest')"
167 |    ]
168 |   },
169 |   {
170 |    "cell_type": "code",
171 |    "execution_count": 8,
172 |    "id": "cbf12465-5ef8-485e-8daa-c4c81640d234",
173 |    "metadata": {},
174 |    "outputs": [
175 |     {
176 |      "name": "stdout",
177 |      "output_type": "stream",
178 |      "text": [
179 |       "Available languages ['en', 'de', 'ru', 'es']\n",
180 |       "Available punctuation marks ['.', ',', '-', '!', '?', '—']\n"
181 |      ]
182 |     }
183 |    ],
184 |    "source": [
185 |     "# see avaiable languages\n",
186 |     "available_languages = list(model_conf.get('languages'))\n",
187 |     "print(f'Available languages {available_languages}')\n",
188 |     "\n",
189 |     "# and punctuation marks\n",
190 |     "available_punct = list(model_conf.get('punct'))\n",
191 |     "print(f'Available punctuation marks {available_punct}')"
192 |    ]
193 |   },
194 |   {
195 |    "cell_type": "markdown",
196 |    "id": "3e5a3e76-1841-437d-adcb-13f26ccd41e9",
197 |    "metadata": {},
198 |    "source": [
199 |     "### With language label"
200 |    ]
201 |   },
202 |   {
203 |    "cell_type": "code",
204 |    "execution_count": 9,
205 |    "id": "74153e23-268a-40d3-af23-82f43a70f7a8",
206 |    "metadata": {},
207 |    "outputs": [],
208 |    "source": [
209 |     "model_url = model_conf.get('package')\n",
210 |     "\n",
211 |     "model_dir = \"downloaded_model\"\n",
212 |     "os.makedirs(model_dir, exist_ok=True)\n",
213 |     "model_path = os.path.join(model_dir, os.path.basename(model_url))\n",
214 |     "\n",
215 |     "if not os.path.isfile(model_path):\n",
216 |     "    torch.hub.download_url_to_file(model_url,\n",
217 |     "                                   model_path,\n",
218 |     "                                   progress=True)\n",
219 |     "\n",
220 |     "imp = package.PackageImporter(model_path)\n",
221 |     "model = imp.load_pickle(\"te_model\", \"model\")\n",
222 |     "\n",
223 |     "def apply_te(text, lan='es'):\n",
224 |     "    return model.enhance_text(text, lan)"
225 |    ]
226 |   },
227 |   {
228 |    "cell_type": "code",
229 |    "execution_count": 10,
230 |    "id": "8a588be9-4604-409a-b90e-03971f2c8e24",
231 |    "metadata": {},
232 |    "outputs": [
233 |     {
234 |      "name": "stdout",
235 |      "output_type": "stream",
236 |      "text": [
237 |       "Estamos con Marcelo Ferre es gastro enterólogo cómo le va a doctor buenas noches Unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos. La enfermedad de Croncque esla enfermedad de Cron correcto Fernando. La enfermedad de Cron es una enfermedad inflamatoria del intestino Sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética. Son raras en el sentido del diagnóstico Son poco frecuentes. Hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados. Se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos. Uno cada chabitantes puede tener esta enfermedad, aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no. estar en contacto con ellos el diagnóstico es de difícil acceso Eldoctor cuéntenos, por ejemplo, esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe. Eldoctor vamos a utilizar una cuestión didáctica. Esto es un video que nosotros bajamos de las redes como para entender cuálesporahí Estamos viendo el aparato digestio correcto en ese aparato digestivo. La lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata. Esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas. Yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo. mortal, pero si no se la controla primero si no se la diagnostica, no se la controla y no tiene un seguimiento. Yo puedo intuir que tengo la enfermedad debien digo de cron, por qué síntomas lossíntomas más comunes generalmente gente entre taños esla edad del debut y tienen dolor abdominal. Pueden tener diarrea. Pueden tener fiebre. Pueden tener algún sangrado intestinal, pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares. Es decir, es una enfermedad sistémica. Es una enfermedad que no solamente puede afectar el intestino delgado. Quees MsU parte más frecuente lugar que lo afecta puede afectar el colón, pero también hay enfermedad de crón de estómago de sófago. Son más raras dentro de la rareza de la propia enfermedad. Estas también son más raras. Las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo, sino que instruir a través de la palabra de UtDsye. Los profesionales de cómo no puede estar advertido esto porque, por ejemplo, si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas. Me comió un lechón y me cayó mal, pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico. Una aproximación yenel caso de Hendler Aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar. Si vos me dices. Yo voy con estos síntomas que acabamos de hablar a un médico clínico. Por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más. Pero no significa que el clínico no las pueda diagnosticar. También las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente. La enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted, por ejemplo, me diagnosticaría a mí Si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque. Ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de Crom es muy importante el enfoque y el apoyo. psicológico después el tratamiento médico hoy endía Hay tratamiento farmacológico, Un tratamiento farmacológico con anticuerpos monoclonales. Es un tratamiento realmente que hoy lo curre en todas las obras sociales. Es decir, tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación, También los hábitos de alimentación. También estos pacientes tienen una dieta a seguir una dieta más conveniente. Una dieta saludablerica en fibras con un cuidado especial del intestino. No es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro. No son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente Usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados, por qué me habloó el tratamiento psicológico. Porque es una parte muy importante del paciéntte. Todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino. Es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros. El resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias Doctorcomo mensaje final. No hay que temerles estas cosas, sino que hay que enfrentarlas y tratarlas totalmente. Estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad De todos estos pacientes que pueden tener o nos pueden estar escuchando. No es sinónimo que van a padecer un cáncer deintestino, ni mucho menos tienen exactamente estos pacientes. Las mismas posibilidades de hacer un cáncer de colón que cualquier otro. Paciente siempre y cuando estén en tratamiento y en seguimiento rhasido Umuy Amabl gracias por su tiempo buenas noches.\n"
238 |      ]
239 |     }
240 |    ],
241 |    "source": [
242 |     "output_text = apply_te(processed_text, lan='es')\n",
243 |     "print(output_text)"
244 |    ]
245 |   },
246 |   {
247 |    "cell_type": "markdown",
248 |    "id": "51d5e814-e608-4505-a2e4-ca844f68b07e",
249 |    "metadata": {},
250 |    "source": [
251 |     "### With fasttext for language detection"
252 |    ]
253 |   },
254 |   {
255 |    "cell_type": "code",
256 |    "execution_count": 11,
257 |    "id": "b3a4a486-406b-45ff-9747-e590d9a0b4f7",
258 |    "metadata": {},
259 |    "outputs": [
260 |     {
261 |      "name": "stdout",
262 |      "output_type": "stream",
263 |      "text": [
264 |       "Detected language: es\n"
265 |      ]
266 |     },
267 |     {
268 |      "name": "stderr",
269 |      "output_type": "stream",
270 |      "text": [
271 |       "Warning : `load_model` does not return WordVectorModel or SupervisedModel any more, but a `FastText` object which is very similar.\n"
272 |      ]
273 |     }
274 |    ],
275 |    "source": [
276 |     "from ftlangdetect import detect\n",
277 |     "\n",
278 |     "lan = detect(text=processed_text, low_memory=False)['lang']\n",
279 |     "print(f\"Detected language: {lan}\")"
280 |    ]
281 |   },
282 |   {
283 |    "cell_type": "code",
284 |    "execution_count": 12,
285 |    "id": "10ba43c6-d668-42f2-ad47-4c5c6e64ddbb",
286 |    "metadata": {},
287 |    "outputs": [
288 |     {
289 |      "name": "stderr",
290 |      "output_type": "stream",
291 |      "text": [
292 |       "Using cache found in /home/studio-lab-user/.cache/torch/hub/snakers4_silero-models_master\n"
293 |      ]
294 |     }
295 |    ],
296 |    "source": [
297 |     "import torch\n",
298 |     "\n",
299 |     "model, example_texts, languages, punct, apply_te = torch.hub.load(repo_or_dir='snakers4/silero-models',\n",
300 |     "                                                                  model='silero_te')"
301 |    ]
302 |   },
303 |   {
304 |    "cell_type": "code",
305 |    "execution_count": 13,
306 |    "id": "dc9ffdb2-6d53-4947-acaa-e4f158acd246",
307 |    "metadata": {},
308 |    "outputs": [
309 |     {
310 |      "name": "stdout",
311 |      "output_type": "stream",
312 |      "text": [
313 |       "Estamos con Marcelo Ferre es gastro enterólogo cómo le va a doctor buenas noches Unasa ver hoy charlaba con nuestros compañeros de trabajo y decía no pero murió de un cáncer y había otra enfermedad previa y cómo es estocuéntenos. La enfermedad de Croncque esla enfermedad de Cron correcto Fernando. La enfermedad de Cron es una enfermedad inflamatoria del intestino Sque entra dentro del grupo de las enfermedades inflamatorias intestinales que son enfermedades crónicas son autoinmunes tienen una base genética. Son raras en el sentido del diagnóstico Son poco frecuentes. Hay pacientes en todo el país empacientes con esta enfermedad nada más nada más en todo el país o al menos diagnosticados. Se diagnosticado y conocido sicon algún seguimiento por parte de sus médicos. Uno cada chabitantes puede tener esta enfermedad, aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido al no verla y al no. estar en contacto con ellos el diagnóstico es de difícil acceso Eldoctor cuéntenos, por ejemplo, esa imagen que estamos observando nosotrosaimagen completa por favor dire vamos a agradecer porqe. Eldoctor vamos a utilizar una cuestión didáctica. Esto es un video que nosotros bajamos de las redes como para entender cuálesporahí Estamos viendo el aparato digestio correcto en ese aparato digestivo. La lupa se está posando en dónde en el intestino delgado yahí va hacía el grueso ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso en el delgado o en ambos enambos desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata. Esta enfermedad es mortal en realidad es una enfermedad crónica y como todas las enfermedades crónicas. Yo se la comparo con una diabetes por ejemploes una enfermedad que puede terminar siendo. mortal, pero si no se la controla primero si no se la diagnostica, no se la controla y no tiene un seguimiento. Yo puedo intuir que tengo la enfermedad debien digo de cron, por qué síntomas lossíntomas más comunes generalmente gente entre taños esla edad del debut y tienen dolor abdominal. Pueden tener diarrea. Pueden tener fiebre. Pueden tener algún sangrado intestinal, pero a su vez tienen manifestaciones extraintestinales como pueden ser dolores articulares. Es decir, es una enfermedad sistémica. Es una enfermedad que no solamente puede afectar el intestino delgado. Quees MsU parte más frecuente lugar que lo afecta puede afectar el colón, pero también hay enfermedad de crón de estómago de sófago. Son más raras dentro de la rareza de la propia enfermedad. Estas también son más raras. Las localizacione nosotrosentendemos que en estos espacios lo que vemos hacer es no llenar de miedo, sino que instruir a través de la palabra de UtDsye. Los profesionales de cómo no puede estar advertido esto porque, por ejemplo, si tengo diarrea esta noche no significa que estoy enfermo para itimatología puede responder un montón de cosas. Me comió un lechón y me cayó mal, pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico. Una aproximación yenel caso de Hendler Aél le demandó como trebarracuatro años para diagnosticarla porque son difíciles de diagnosticar al verse poco son difíciles de diagnosticar todo depende por donde uno vaya a consultar. Si vos me dices. Yo voy con estos síntomas que acabamos de hablar a un médico clínico. Por ahí es más gamodifícil para el clínico que para un gastro enterólogo que las vemos más. Pero no significa que el clínico no las pueda diagnosticar. También las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra no necesariamente. La enfermedad de crón es una enfermedad repito crónica autinmune que si tiene un seguimiento y tiene un tratamiento no debería terminar en un cancertres patas del tratamiento que usted, por ejemplo, me diagnosticaría a mí Si usted dice mireidalgo usted tiene o padece esta patología tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque. Ese paciente tiene que tener una contención tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa menos de a enfermedad de Crom es muy importante el enfoque y el apoyo. psicológico después el tratamiento médico hoy endía Hay tratamiento farmacológico, Un tratamiento farmacológico con anticuerpos monoclonales. Es un tratamiento realmente que hoy lo curre en todas las obras sociales. Es decir, tiene tratamiento no tiene cura tiene trataiteneso cambia los hábitos de alimentación, También los hábitos de alimentación. También estos pacientes tienen una dieta a seguir una dieta más conveniente. Una dieta saludablerica en fibras con un cuidado especial del intestino. No es una dieta que no la pueda hacer o sea no es algo extraordinario si vienes una enfermedad rara cuando se detecta se la puede tratar dctor le ha tocado diagnosticar sísss claro. No son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade los que están documentados estadificados y demás es poco frecuente Usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados, por qué me habloó el tratamiento psicológico. Porque es una parte muy importante del paciéntte. Todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico porque están influenciando se considera quel intestino. Es el segundo cerebro y tiene comunicación con nuestro primer cerebro que es el que la geneque todos conocemoshabitualmente exactamente y de la armonía de los dos cerebros. El resultado también del seguimiento deestresfastidios ira cibilidad alibrmentaciónmacedentaría mostavaquismo alcolismo bueno todo lo que te puedas imaginar agrede y tiene sus consecuencias Doctorcomo mensaje final. No hay que temerles estas cosas, sino que hay que enfrentarlas y tratarlas totalmente. Estos pacientes tienen un seguimiento tienen un tratamiento y no es sinónimo ypara tranquilidad De todos estos pacientes que pueden tener o nos pueden estar escuchando. No es sinónimo que van a padecer un cáncer deintestino, ni mucho menos tienen exactamente estos pacientes. Las mismas posibilidades de hacer un cáncer de colón que cualquier otro. Paciente siempre y cuando estén en tratamiento y en seguimiento rhasido Umuy Amabl gracias por su tiempo buenas noches.\n"
314 |      ]
315 |     }
316 |    ],
317 |    "source": [
318 |     "output_text = apply_te(processed_text, lan='es')\n",
319 |     "print(output_text)"
320 |    ]
321 |   },
322 |   {
323 |    "cell_type": "markdown",
324 |    "id": "61e930ff-f9d8-402b-a560-0d839d3c601f",
325 |    "metadata": {},
326 |    "source": [
327 |     "## Using \"Deep Multilingual Punctuation\""
328 |    ]
329 |   },
330 |   {
331 |    "cell_type": "markdown",
332 |    "id": "9bf27e47-5914-4a93-8db8-2b0a8ec072b3",
333 |    "metadata": {},
334 |    "source": [
335 |     "The `PunctuationModel` class an process texts of any length. Note that processing of very long texts can be time consuming."
336 |    ]
337 |   },
338 |   {
339 |    "cell_type": "code",
340 |    "execution_count": 14,
341 |    "id": "eb348773-ce60-4e81-8946-53f20ec5fd10",
342 |    "metadata": {},
343 |    "outputs": [],
344 |    "source": [
345 |     "from deepmultilingualpunctuation import PunctuationModel"
346 |    ]
347 |   },
348 |   {
349 |    "cell_type": "code",
350 |    "execution_count": 15,
351 |    "id": "808dd6dd-4a04-4507-b65d-5075507cc055",
352 |    "metadata": {},
353 |    "outputs": [
354 |     {
355 |      "name": "stderr",
356 |      "output_type": "stream",
357 |      "text": [
358 |       "/home/studio-lab-user/.conda/envs/machinelearnear-asr-clinical-biomedical-ehr/lib/python3.9/site-packages/transformers/pipelines/token_classification.py:135: UserWarning: `grouped_entities` is deprecated and will be removed in version v5.0.0, defaulted to `aggregation_strategy=\"AggregationStrategy.NONE\"` instead.\n",
359 |       "  warnings.warn(\n"
360 |      ]
361 |     }
362 |    ],
363 |    "source": [
364 |     "model = PunctuationModel(model='oliverguhr/fullstop-punctuation-multilingual-base')"
365 |    ]
366 |   },
367 |   {
368 |    "cell_type": "code",
369 |    "execution_count": 16,
370 |    "id": "9f2f6844-c6d7-4ee6-9980-ec3ce9d228dd",
371 |    "metadata": {},
372 |    "outputs": [
373 |     {
374 |      "name": "stdout",
375 |      "output_type": "stream",
376 |      "text": [
377 |       "Estamos con Marcelo Ferre. es gastro enterólogo. cómo le va a doctor? buenas noches, Unasa ver. hoy charlaba con nuestros compañeros de trabajo y decía: no, pero murió de un cáncer y había otra enfermedad previa. y cómo es estocuéntenos La enfermedad de Croncque? esla enfermedad de Cron, correcto, Fernando? La enfermedad de Cron es una enfermedad inflamatoria del intestino Sque entra dentro del grupo de las enfermedades inflamatorias intestinales, que son enfermedades crónicas, son autoinmunes, tienen una base genética, Son raras en el sentido del diagnóstico, Son poco frecuentes. Hay pacientes en todo el país empacientes con esta enfermedad, nada más, nada más en todo el país, o al menos diagnosticados, Se diagnosticado y conocido, sicon algún seguimiento por parte de sus médicos. Uno cada chabitantes puede tener esta enfermedad, aunque no la diagnostiquemos tan frecuentemente y en realidadcuesta diagnosticarla en el sentido, al no verla y al no estar en contacto con ellos, el diagnóstico es de difícil acceso. Eldoctor, cuéntenos, por ejemplo, esa imagen que estamos observando nosotrosaimagen completa. por favor dire: vamos a agradecer porqe Eldoctor, vamos a utilizar una cuestión didáctica. Esto es un video que nosotros bajamos de las redes, como para entender cuálesporahí Estamos viendo el aparato digestio correcto. en ese aparato digestivo, La lupa se está posando en dónde, en el intestino delgado, yahí va hacía el grueso. ahí va ahacía el gruesoeesta enfermedad se manifiesta en el grueso, en el delgado o en ambos enambos, desde la boca alano aopor eso las complicaciones tremendas porlas complicaciones que tiene la enfermedad cuando no se le diagnosticuae y no se la atrata. Esta enfermedad es mortal. en realidad es una enfermedad crónica y, como todas las enfermedades crónicas, Yo se la comparo con una diabetes, por ejemploes una enfermedad que puede terminar siendo mortal, pero si no se la controla primero, si no se la diagnostica, no se la controla y no tiene un seguimiento. Yo puedo intuir que tengo la enfermedad, debien digo de cron. por qué síntomas? lossíntomas más comunes, generalmente gente entre taños, esla edad del debut y tienen dolor abdominal. Pueden tener diarrea, Pueden tener fiebre, Pueden tener algún sangrado intestinal, pero a su vez tienen manifestaciones extraintestinales, como pueden ser dolores articulares. Es decir, es una enfermedad sistémica. Es una enfermedad que no solamente puede afectar el intestino delgado, Quees MsU, parte más frecuente, lugar que lo afecta. puede afectar el colón, pero también hay enfermedad de crón, de estómago, de sófago. Son más raras. dentro de la rareza de la propia enfermedad, Estas también son más raras Las localizacione. nosotrosentendemos que en estos espacios, lo que vemos hacer es no llenar de miedo, sino que instruir a través de la palabra de UtDsye Los profesionales, de cómo no puede estar advertido esto? porque, por ejemplo, si tengo diarrea esta noche, no significa que estoy enfermo para itimatología. puede responder un montón de cosas. Me comió un lechón y me cayó mal. pero lo que te quiero decir des estos elementos qsonaquellos que se conjugan para establecer un primer diagnóstico, Una aproximación yenel caso de Hendler Aél le demandó como trebarracuatro años para diagnosticarla, porque son difíciles de diagnosticar. al verse poco, son difíciles de diagnosticar. todo depende por donde uno vaya a consultar. Si vos me dices, Yo voy con estos síntomas que acabamos de hablar a un médico clínico Por ahí, es más gamodifícil para el clínico que para un gastro enterólogo, que las vemos más. Pero no significa que el clínico no las pueda diagnosticar. También las puede diagnosticalguna preguntaesta enfermedad podemos decir que decanta en el cáncer, que luego termina con la vida de genre o no necesariamente una cosa vaatada a la otra? no necesariamente. La enfermedad de crón es una enfermedad, repito, crónica, autinmune, que, si tiene un seguimiento y tiene un tratamiento, no debería terminar en un cancertres patas del tratamiento que usted, por ejemplo, me diagnosticaría a mí. Si usted dice, mireidalgo, usted tiene o padece esta patología, tres patas del tratamiento enel tratamiento básicamente tiene que haber un tratamiento psicológicoporque Ese paciente tiene que tener una contención, tiene que tener un seguimiento y tiene que entender de que esta enfermedad la puede llevar hasta el final de sus días y morir de cualquier otra cosa, menos de a enfermedad de Crom. es muy importante el enfoque y el apoyo psicológico. después el tratamiento médico. hoy endía Hay tratamiento farmacológico, Un tratamiento farmacológico con anticuerpos monoclonales. Es un tratamiento realmente que hoy lo curre en todas las obras sociales. Es decir: tiene tratamiento, no tiene cura, tiene trataiteneso cambia los hábitos de alimentación, También los hábitos de alimentación. También estos pacientes tienen una dieta a seguir, una dieta más conveniente, Una dieta saludablerica en fibras, con un cuidado especial del intestino. No es una dieta que no la pueda hacer, o sea no es algo extraordinario. si vienes una enfermedad rara, cuando se detecta, se la puede tratar. dctor le ha tocado diagnosticar sísss. claro, No son muchos los pacientes que hahy el mendoza menos site imagina que a nivel país hay ade, los que están documentados, estadificados y demás. es poco frecuente. Usted ha podido llevar adelante buenos tratamientos sitenés buenos resultados. por qué me habloó el tratamiento psicológico? Porque es una parte muy importante del paciéntte. Todas las enfermedades inflamatorias del intestino tienen que tener un acompañamiento psicológico, porque están influenciando. se considera quel intestino Es el segundo cerebro y tiene comunicación con nuestro primer cerebro, que es el que la geneque todos conocemoshabitualmente exactamente, y de la armonía de los dos cerebros, El resultado también del seguimiento deestresfastidios, ira, cibilidad, alibrmentaciónmacedentaría, mostavaquismo, alcolismo. bueno, todo lo que te puedas imaginar agrede y tiene sus consecuencias. Doctorcomo mensaje final, No hay que temerles estas cosas, sino que hay que enfrentarlas y tratarlas totalmente. Estos pacientes tienen un seguimiento, tienen un tratamiento, y no es sinónimo ypara tranquilidad De todos estos pacientes que pueden tener o nos pueden estar escuchando. No es sinónimo que van a padecer un cáncer deintestino, ni mucho menos tienen exactamente estos pacientes Las mismas posibilidades de hacer un cáncer de colón que cualquier otro Paciente, siempre y cuando estén en tratamiento y en seguimiento. rhasido Umuy Amabl, gracias por su tiempo. buenas noches.\n"
378 |      ]
379 |     }
380 |    ],
381 |    "source": [
382 |     "result = model.restore_punctuation(output_text)\n",
383 |     "print(result)"
384 |    ]
385 |   },
386 |   {
387 |    "cell_type": "markdown",
388 |    "id": "e99a8eca-7cc4-418b-991c-b1b1f47351d2",
389 |    "metadata": {
390 |     "tags": []
391 |    },
392 |    "source": [
393 |     "## Save results"
394 |    ]
395 |   },
396 |   {
397 |    "cell_type": "code",
398 |    "execution_count": 17,
399 |    "id": "d8a176be-b205-438a-8c6f-ceca6f5ae06a",
400 |    "metadata": {},
401 |    "outputs": [],
402 |    "source": [
403 |     "with open(f'transcripts/transcribed_speech_w_corrected_punctuation.txt', \"w\") as f:\n",
404 |     "    f.write(result)"
405 |    ]
406 |   },
407 |   {
408 |    "cell_type": "markdown",
409 |    "id": "e52f7892-5923-4db4-ae7e-749e004f96ea",
410 |    "metadata": {},
411 |    "source": [
412 |     "## References"
413 |    ]
414 |   },
415 |   {
416 |    "cell_type": "markdown",
417 |    "id": "735ab3ca-2353-468b-8548-59ff44ed3a2d",
418 |    "metadata": {},
419 |    "source": [
420 |     "- https://huggingface.co/speeqo/bert-restore-punctuation\n",
421 |     "- https://huggingface.co/softcatala/fullstop-catalan-punctuation-prediction\n",
422 |     "- https://github.com/oliverguhr/fullstop-deep-punctuation-prediction\n",
423 |     "- https://huggingface.co/kredor/punctuate-all\n",
424 |     "- https://huggingface.co/SJ-Ray/Re-Punctuate\n",
425 |     "- https://github.com/xashru/punctuation-restoration\n",
426 |     "- https://github.com/snakers4/silero-models#text-enhancement"
427 |    ]
428 |   }
429 |  ],
430 |  "metadata": {
431 |   "kernelspec": {
432 |    "display_name": "machinelearnear-asr-clinical-biomedical-ehr:Python",
433 |    "language": "python",
434 |    "name": "conda-env-machinelearnear-asr-clinical-biomedical-ehr-py"
435 |   },
436 |   "language_info": {
437 |    "codemirror_mode": {
438 |     "name": "ipython",
439 |     "version": 3
440 |    },
441 |    "file_extension": ".py",
442 |    "mimetype": "text/x-python",
443 |    "name": "python",
444 |    "nbconvert_exporter": "python",
445 |    "pygments_lexer": "ipython3",
446 |    "version": "3.9.12"
447 |   }
448 |  },
449 |  "nbformat": 4,
450 |  "nbformat_minor": 5
451 | }
452 | 


--------------------------------------------------------------------------------