Комбинированный метод извлечения терминов для задачи мониторинга тематических обсуждений в социальных медиа
Ключевые слова:
интеллектуальный анализ текстов, извлечение терминов, социальные медиа, извлечение знанийАннотация
Извлечение терминов является важным этапом автоматизированного построения систем знаний на основе естественно-языковых текстов, поскольку обеспечивает формирование базовой системы понятий, используемой затем в прикладных задачах интеллектуальной обработки информации. В статье рассмотрена проблема автоматизированного извлечения терминов из естественно-языковых текстов с целью их дальнейшего использования при построении формализованных систем знаний (онтологий, тезаурусов, графов знаний) в рамках задачи мониторинга тематических обсуждений в социальных медиа. Данная задача характеризуется необходимостью включения в формируемую систему знаний как понятий из нескольких различных предметных областей, так и некоторых общеупотребительных понятий, используемых аудиторией социальных медиа в рамках тематических обсуждений. Кроме того, формируемая система знаний является динамичной как с точки зрения состава охватываемых ею предметных областей, так и состава релевантных понятий, подлежащих включению в систему. Применение существующих классических методов извлечения терминов в данном случае затруднительно, поскольку они ориентированы на извлечение терминов в рамках одной предметной области. Исходя из этого, для решения рассматриваемой задачи предложен комбинированный метод, совмещающий в себе подходы на основе внешних источников знаний, инструментов NER и правил. Результаты проведенных экспериментов демонстрируют эффективность предложенной комбинации подходов к извлечению терминов для задачи мониторинга и анализа тематических обсуждений в социальных медиа. Разработанный метод значительно превосходит по точности существующие инструменты извлечения терминов. В качестве дальнейшего направления исследования рассмотрена возможность развития метода для решения задачи выделения вложенных терминов или сущностей.
Литература
2. Mykowiecka A., Marciniak M., Kupsc A. Rule-based information extraction from patients’ clinical data // Journal of Biomedical Informatics. 2009. vol. 42. no 5. pp. 923–936.
3. Golik W., Bossy R., Ratkovic Z., Nedellec C. Improving term extraction with linguistic analysis in the biomedical domain // RCS. 2013. vol. 70. no. 1. pp. 157–172.
4. Zhou X., Zhang X., Hu X. MaxMatcher: Biological Concept Extraction Using Approximate Dictionary Lookup // PRICAI 2006: Trends in Artificial Intelligence Lecture Notes in Computer Science. 2006. pp. 1145–1149.
5. Yehia E., Boshnak H., AbdelGaber S., Abdo A., Elzanfaly. D.S. Ontology-based clinical information extraction from physician’s free-text notes // Journal of Biomedical Informatics. 2019. vol. 98. no. 103276.
6. Lomov P., Malozemova M., Shishaev M. Training and application of neural-network language model for ontology population // Software engineering perspectives in intelligent systems: Proceedings of 4th Computational Methods in Systems and Software. 2020. vol. 1295. pp. 919–926.
7. Пимешков В.К., Диковицкий В.В., Шишаев М.Г. Формирование тренировочных наборов данных для нейросетевого классификатора в задаче извлечения понятий и отношений из естественно-языковых текстов // Сборник Региональной научно-практической конференции-студенческой научной школы филиала МАГУ в г. Апатиты. 2021. С. 158–170.
8. Pazienza M.T., Pennacchiotti M., Zanzotto F.M. Terminology Extraction: An Analysis of Linguistic and Statistical Approaches // Knowledge Mining. Studies in Fuzziness and Soft Computing. 2005. pp. 255–279.
9. Heid U. Extracting terminologically relevant collocations from German technical texts // Terminology and Knowledge Engineering Proceedings. 1999. vol. 99. pp. 242–255.
10. Zhang S., Elhadad N. Unsupervised biomedical named entity recognition: Experiments with clinical and biological texts // Journal of Biomedical Informatics. 2013. vol. 46. no 6. pp. 1088–1098.
11. Lopez P., Romary L. HUMB: Automatic Key Term Extraction from Scientific Articles in GROBID // Proceedings of the 5th International Workshop on Semantic Evaluation. 2010. pp. 248–251.
12. GROBID. URL: https://github.com/kermitt2/grobid (дата обращения: 13.11.2023).
13. Lopez P., Romary L. GRISP: A Massive Multilingual Terminological Database for Scientific and Technical Domains // Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC'10). 2010. pp. 2269–2276.
14. RuWordNet. URL: https://ruwordnet.ru/ru/ (дата обращения: 13.11.2023).
15. RuThes. URL: http://www.labinform.ru/pub/ruthes/ (дата обращения: 13.11.2023).
16. AGROVOC. URL: https://www.fao.org/agrovoc/ (дата обращения: 13.11.2023).
17. DBpedia. URL: https://www.dbpedia.org/ (дата обращения: 13.11.2023).
18. SpaCy. URL: https://spacy.io/ (дата обращения: 07.12.2023).
19. Natasha. URL: https://github.com/natasha/natasha (дата обращения: 24.10.2023).
20. DeepPavlov. URL: https://docs.deeppavlov.ai/en/master/ (дата обращения: 07.12.2023).
21. Томита-парсер. URL: https://yandex.ru/dev/tomita/ (дата обращения: 13.11.2023).
22. Yargy parser. URL: https://github.com/natasha/yargy (дата обращения: 24.10.2023).
23. Korobov M. Morphological Analyzer and Generator for Russian and Ukrainian Languages // Analysis of Images, Social Networks and Texts. Communications in Computer and Information Science. 2015. pp. 320–332.
24. OpenCorpora. URL: https://opencorpora.org/ (дата обращения: 13.11.2023).
25. BERT NER-models. URL: https://docs.deeppavlov.ai/en/master/features/models/NER.html#6.-Models-list (дата обращения: 24.10.2023).
26. Bird S., Klein E., Loper E. Natural Language Processing with Python // O’Reilly Media Inc. 2009. 482 p.
27. Lu K. kevinlu1248/pyate: Python Automated Term Extraction (Version v0.5.3). Zenodo. 2021. DOI: 10.5281/zenodo.5039289.
28. Rutermextract. URL: https://pypi.org/project/rutermextract/ (дата обращения: 07.12.2023).
29. Astrakhantsev N. ATR4S: toolkit with state-of-the-art automatic terms recognition methods in Scala // Language Resources and Evaluation. 2018. vol. 52. no. 3. pp. 853–872.
30. Hatty A., Schlechtweg D., Dorna M., im Walde S.S. Predicting Degrees of Technicality in Automatic Terminology Extraction // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. 2020. pp. 2883–2889.
31. Zhang X., Panizzon R., Musacchio M., Ahmad K. Terminology Extraction for and from Communications in Multi-disciplinary Domains // Proceedings of the LREC 2016 Workshop “EMOT: Emotions, Metaphors, Ontology and Terminology during Disasters”. 2016. pp. 34–39.
32. Abrahams A.S., Jiao J., Fan W., Wang G.A., Zhang Z. What’s buzzing in the blizzard of buzz? Automotive component isolation in social media postings // Decision Support Systems. 2013. vol. 55. no. 4. pp. 871–882.
33. Yates A., Goharian N., Frieder O. Extracting Adverse Drug Reactions from Social Media // Proceedings of the AAAI Conference on Artificial Intelligence. 2015. vol. 29. no. 1. DOI: 10.1609/aaai.v29i1.9527.
34. Liu K., Chen L. Medical Social Media Text Classification Integrating Consumer Health Terminology // IEEE Access. 2019. vol. 7. pp. 78185–78193.
Опубликован
Как цитировать
Раздел
Copyright (c) Вадим Пимешков, Марина Никонорова, Максим Шишаев
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Авторы, которые публикуются в данном журнале, соглашаются со следующими условиями: Авторы сохраняют за собой авторские права на работу и передают журналу право первой публикации вместе с работой, одновременно лицензируя ее на условиях Creative Commons Attribution License, которая позволяет другим распространять данную работу с обязательным указанием авторства данной работы и ссылкой на оригинальную публикацию в этом журнале. Авторы сохраняют право заключать отдельные, дополнительные контрактные соглашения на неэксклюзивное распространение версии работы, опубликованной этим журналом (например, разместить ее в университетском хранилище или опубликовать ее в книге), со ссылкой на оригинальную публикацию в этом журнале. Авторам разрешается размещать их работу в сети Интернет (например, в университетском хранилище или на их персональном веб-сайте) до и во время процесса рассмотрения ее данным журналом, так как это может привести к продуктивному обсуждению, а также к большему количеству ссылок на данную опубликованную работу (Смотри The Effect of Open Access).