<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">vmait</journal-id><journal-title-group><journal-title xml:lang="ru">Computational Mathematics and Information Technologies</journal-title><trans-title-group xml:lang="en"><trans-title>Computational Mathematics and Information Technologies</trans-title></trans-title-group></journal-title-group><issn pub-type="epub">2587-8999</issn><publisher><publisher-name>Донской государственный технический университет</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.23947/2587-8999-2025-9-2-52-64</article-id><article-id custom-type="elpub" pub-id-type="custom">vmait-195</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>Information Technologies (Информационные технологии)</subject></subj-group></article-categories><title-group><article-title>Автоматическая обработка первичных данных натурных исследований поведения природно-технических систем при изменении климата и антропогенных воздействиях в условиях Крайнего Севера</article-title><trans-title-group xml:lang="en"><trans-title>Automated Processing of Primary Field Data on the Behavior of Natural-Technological Systems under Climate Change and Anthropogenic Impacts in the Far North</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0009-0004-0270-5853</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Кушуков</surname><given-names>С. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Kushukov</surname><given-names>S. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Сергей Владимирович Кушуков, инженер Научно-исследовательской лаборатории «Искусственный интеллект»</p><p>443090, г. Самара, Московское ш., 77</p></bio><bio xml:lang="en"><p>Sergey V. Kushukov, Engineer, Research Laboratory “Artificial Intelligence</p><p>77, Moskovskoe Shosse, Samara, 443090</p></bio><email xlink:type="simple">s.kushukov@psuti.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-6248-9564</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Иванов</surname><given-names>К. Н.</given-names></name><name name-style="western" xml:lang="en"><surname>Ivanov</surname><given-names>K. N.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Константин Николаевич Иванов, инженер Научно-исследовательской лаборатории «Искусственный интеллект»</p><p>443090, г. Самара, Московское ш., 77</p></bio><bio xml:lang="en"><p>Konstantin N. Ivanov, Engineer, Research Laboratory “Artificial Intelligence”</p><p>77, Moskovskoe Shosse, Samara, 443090</p></bio><email xlink:type="simple">k.ivanov@psuti.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-8687-2704</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Левашкин</surname><given-names>С. П.</given-names></name><name name-style="western" xml:lang="en"><surname>Levashkin</surname><given-names>S. P.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Сергей Павлович Левашкин, кандидат физико-математических наук, доцент, заведующий Научно-исследовательской лаборатории «Искусственный интеллект»</p><p>443090, г. Самара, Московское ш., 77</p></bio><bio xml:lang="en"><p>Sergey P. Levashkin, Candidate of Physical and Mathematical Sciences, Associated Professor, Head of Research Laboratory “Artificial Intelligence”</p><p>77, Moskovskoe Shosse, Samara, 443090</p></bio><email xlink:type="simple">ai_lab@psuti.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-9498-1457</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Якобовский</surname><given-names>М. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Yakobovskiy</surname><given-names>M. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Михаил Владимирович Якобовский, член-корреспондент РАН, доктор физико-математических наук, директор</p><p>125047, г. Москва, Миусская пл., 4</p></bio><bio xml:lang="en"><p>Mikhail V. Yakobovskiy, Corresponding Member of the Russian Academy of Sciences, Doctor of Physical and Mathematical Sciences, Director</p><p>4, Miusskaya pl., Moscow, 125047</p></bio><email xlink:type="simple">lira@imamod.ru</email><xref ref-type="aff" rid="aff-2"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Поволжский государственный университет  телекоммуникаций и информатики</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Povolzhskiy State University of Telecommunications and Informatics</institution><country>Russian Federation</country></aff></aff-alternatives><aff-alternatives id="aff-2"><aff xml:lang="ru"><institution>Институт прикладной математики имени М.В. Келдыша РАН</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Keldysh Institute of Applied Mathematics of the Russian Academy of Sciences (IPM RAS)</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2025</year></pub-date><pub-date pub-type="epub"><day>16</day><month>07</month><year>2025</year></pub-date><volume>9</volume><issue>2</issue><fpage>52</fpage><lpage>64</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Кушуков С.В., Иванов К.Н., Левашкин С.П., Якобовский М.В., 2025</copyright-statement><copyright-year>2025</copyright-year><copyright-holder xml:lang="ru">Кушуков С.В., Иванов К.Н., Левашкин С.П., Якобовский М.В.</copyright-holder><copyright-holder xml:lang="en">Kushukov S.V., Ivanov K.N., Levashkin S.P., Yakobovskiy M.V.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.cmit-journal.ru/jour/article/view/195">https://www.cmit-journal.ru/jour/article/view/195</self-uri><abstract><p>Введение. Рассматривается научная проблема изучения природно-технических систем (ПТС) Крайнего Севера в условиях изменения климата и антропогенных воздействий. Отмечается актуальность задачи обеспечения их устойчивости, что требует комплексного анализа натурных данных. Выявлены проблемы в методах автоматизированной обработки таких специфических данных. Целью работы является разработка автоматизированных методов обработки натурных данных для выявления закономерностей. В качестве инструментов используются библиотеки Python для анализа, обработки и визуализации данных.Материалы и методы. Описан объект исследования — Главный корпус Якутской ТЭЦ в условиях вечной мерзлоты. В качестве материалов исследования использованы натурные данные, полученные из инженерно-геологических скважин Якутской ТЭЦ, стационаров Чабыда и Туймаада, а также железнодорожного участка Амуро-Якутской магистрали (АЯМ). Данные включают измерения температуры и влажности грунтов, динамики сезонноталого слоя, характеристик снежного покрова и др. Представлена детальная последовательность автоматизированной обработки первичных данных из XLS-файлов с использованием библиотеки pandas, включая чтение, очистку, преобразование форматов, заполнение или замену значений, удаление дубликатов, а также сохранение обработанных данных в форматах CSV, JSON и XLSX.Результаты исследования. Представлены конкретные результаты автоматизированной обработки и систематизации первичных натурных данных. Успешно выполнено приведение разнородных измерений к единому формату, обеспечивающему их корректное использование. Сформирован уникальный массив данных на основе эмпирических наблюдений в специфических условиях Крайнего Севера. Продемонстрировано практическое применение библиотек Python для выполнения основных этапов предобработки и подготовки данных.Обсуждение и заключение. Доказано, что применение системного подхода и автоматизированной обработки данных существенно повышает качество и надежность анализа натурных данных ПТС. Устранение пропусков и нормализация данных улучшают точность, а итоговые форматы данных удобны для дальнейшего использования в моделировании. Подчеркивается универсальность применения Python. Обозначены перспективы исследования — применение методов машинного обучения, кластеризации и моделирования, предназначенных для выявления закономерностей и прогнозирования поведения природно-технических систем в условиях Крайнего Севера под воздействием климатических и антропогенных факторов</p></abstract><trans-abstract xml:lang="en"><p>Introduction. This work addresses the scientific problem of studying natural-technological systems (NTS) of the Far North under conditions of climate change and anthropogenic impacts. The relevance of ensuring their stability is emphasized, which requires a comprehensive analysis of field data. Problems in automated processing methods of such specific data have been identified. The aim of the study is to develop automated methods for processing field data to reveal patterns. Python libraries for data analysis, processing, and visualization are used as tools.Materials and Methods. The research object is described — the Main Building of the Yakutsk Thermal Power Plant (TPP) in permafrost conditions. The study materials include field data obtained from engineering-geological boreholes at the Yakutsk TPP, monitoring stations Chabyda and Tuymaada, as well as a section of the Amur-Yakutsk railway (AYR). The data include measurements of soil temperature and moisture, seasonal thaw layer dynamics, snow cover characteristics, and others. A detailed sequence of automated processing of primary data from XLS files using the pandas library is presented, including reading, cleaning, format conversion, filling or replacing missing values, removing duplicates, and saving processed data in CSV, JSON, and XLSX formats.Results. Specific results of automated processing and systematization of primary field data are presented. Heterogeneous measurements were successfully unified into a single format, ensuring their proper use. A unique data array was formed based on empirical observations under the specific conditions of the Far North. The practical application of Python libraries for executing key stages of preprocessing and data preparation is demonstrated.Discussion and Conclusion. It is shown that the application of a systematic approach and automated data processing significantly improves the quality and reliability of natural-technological system data analysis. Handling missing data and normalization enhance accuracy, and the final data formats are convenient for further modeling. The universality of Python is highlighted. Prospects for further research include applying machine learning, clustering, and modeling methods aimed at uncovering patterns and forecasting the behavior of natural-technological systems in the Far North under climate and anthropogenic influences</p></trans-abstract><kwd-group xml:lang="ru"><kwd>анализ данных</kwd><kwd>библиотеки Python</kwd><kwd>подготовка данных</kwd><kwd>предобработка данных</kwd><kwd>информационные технологии</kwd></kwd-group><kwd-group xml:lang="en"><kwd>data analysis</kwd><kwd>Python libraries</kwd><kwd>data preparation</kwd><kwd>data preprocessing</kwd><kwd>information technologies</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Поручиков М.А. Анализ данных. Самара: издательство Самарского университета; 2016. 88 с.</mixed-citation><mixed-citation xml:lang="en">Poruchikov M. A. Data analysis. Samara: Samara University Press; 2016. 88 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Введение в анализ данных. URL: https://mipt-stats.gitlab.io/courses/ad_fivt/titanik.html (дата обращения: 08.08.2024).</mixed-citation><mixed-citation xml:lang="en">Introduction to Data Analysis. URL: https://mipt-stats.gitlab.io/courses/ad_fivt/titanik.html (accessed: 08.08.2024)</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Лесковец Ю. Анализ больших наборов данных. Москва: ДМК; 2016. 498 c.</mixed-citation><mixed-citation xml:lang="en">Leskovec Yu. Analysis of Large Datasets. Moscow: DMK; 2016. 498 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">МакКинли У. Python и анализ данных. Москва: ДМК; 2015. 482 c.</mixed-citation><mixed-citation xml:lang="en">McKinney W. Python and Data Analysis. Moscow: DMK; 2015. 482 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Макшанов А.В. Технологии интеллектуального анализа данных. Санкт-Петербург: Лань; 2018. 212 c.</mixed-citation><mixed-citation xml:lang="en">Makshanov A.V. Data Mining Technologies. Saint Petersburg: Lan; 2018. 212 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Миркин Б.Г. Введение в анализ данных. Люберцы: Юрайт; 2016. 174 c.</mixed-citation><mixed-citation xml:lang="en">Mirkin B.G. Introduction to Data Analysis. Lyubertsy: Yurayt; 2016. 174 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Рафалович В. Data mining, или интеллектуальный анализ данных для занятых. Практический курс. Москва: SmartBook; 2018. 352 c.</mixed-citation><mixed-citation xml:lang="en">Rafalovich V. Data Mining, or Data Analysis for the Busy: Practical Course. Moscow: SmartBook; 2018. 352 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Чашкин Ю.Р. Математическая статистика. Анализ и обработка данных. Ростов-на-Дону: Феникс; 2017. 236 c.</mixed-citation><mixed-citation xml:lang="en">Chashkin Yu.R. Mathematical Statistics. Data Analysis and Processing. Rostov-on-Don: Feniks; 2017. 236 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Грон А. Машинное обучение и анализ данных с помощью Python. Санкт-Петербург: Питер; 2019. 460 c.</mixed-citation><mixed-citation xml:lang="en">Gron A. Machine Learning and Data Analysis with Python. Saint Petersburg: Piter; 2019. 460 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Воронцов К.В. Машинное обучение и интеллектуальный анализ данных. Москва: издательство МФТИ; 2018. 328 c.</mixed-citation><mixed-citation xml:lang="en">Vorontsov K.V. Machine Learning and Data Mining. Moscow: MIPT Publishing; 2018. 328 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Алгозина Е.Р. Обработка и анализ данных с Python и Pandas. Руководство для начинающих. Москва: ДМК; 2020. 312 c.</mixed-citation><mixed-citation xml:lang="en">Algozina E.R. Data Processing and Analysis with Python and Pandas: Beginner’s Guide. Moscow: DMK; 2020. 312 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Троян И.В. Анализ данных и машинное обучение на Python. Санкт-Петербург: БХВ-Петербург; 2019. 320 c.</mixed-citation><mixed-citation xml:lang="en">Troyan I.V. Data Analysis and Machine Learning in Python. Saint Petersburg: BHV-Peterburg; 2019. 320 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">МакКинли У. Программирование на Python и анализ данных. Санкт-Петербург: Питер; 2020. 504 c.</mixed-citation><mixed-citation xml:lang="en">McKinney W. Python Programming and Data Analysis. Saint Petersburg: Piter; 2020. 504 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Мюллер А.К., Гвидо С. Введение в машинное обучение с Python. Санкт-Петербург: Питер; 2017. 420 c.</mixed-citation><mixed-citation xml:lang="en">Mueller A.C., Guido S. Introduction to Machine Learning with Python. Saint Petersburg: Piter; 2017. 420 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Рожков Р. С., Молчанова Е. С., Фадеев М. К., Пименов Н. А. Управление природно-техническими системами через концепцию устойчивого развития и приемлемого риска. Вестник евразийской науки. 2024;16(5):1–10.</mixed-citation><mixed-citation xml:lang="en">Rozhkov R.S., Molchanova E.S., Fadeev M.K., Pimenov N.A. Managing Natural-Technical Systems through the Concept of Sustainable Development and Acceptable Risk. Bulletin of Eurasian Science. 2024;16(5):1–10. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Дрегуло Н. Влияние климатических факторов на эксплуатацию ПТС, связанных с обработкой отходов водоотведения. URL: https://pureportal.spbu.ru/ru/publications/---------%28a9c91d8e-c5e0-43d9-98b5-8aac39cc4a61%29.html (дата обращения: 13.01.2025)</mixed-citation><mixed-citation xml:lang="en">Dregulo N. Influence of Climatic Factors on the Operation of Natural-Technical Systems for Wastewater Treatment. URL: https://pureportal.spbu.ru/ru/publications/---------%28a9c91d8e-c5e0-43d9-98b5-8aac39cc4a61%29.html (accessed: 13.01.2025) (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Влияние антропогенных факторов на тепловое загрязнение городской среды. URL: https://www.abok.ru/for_spec/articles.php?nid=7635 (дата обращения: 13.01.2025).</mixed-citation><mixed-citation xml:lang="en">Impact of Anthropogenic Factors on Thermal Pollution of the Urban Environment. URL: https://www.abok.ru/for_spec/articles.php?nid=7635 (accessed: 13.01.2025) (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Влияние антропогенных факторов на развитие сельского хозяйства. URL: https://biohim.com.ru/articles/page2 (дата обращения: 13.01.2025).</mixed-citation><mixed-citation xml:lang="en">Impact of Anthropogenic Factors on Agricultural Development. URL: https://biohim.com.ru/articles/page2 (accessed: 13.01.2025) (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Левашкин С.П., Иванов К.Н., Кушуков С.В. Ферма данных: информационная система сбора, хранения и обработки неструктурированных данных из разнородных источников. Труды Института системного программирования РАН. 2023;35(2):57–72. https://doi.org/10.15514/ISPRAS-2023-35(2)-5</mixed-citation><mixed-citation xml:lang="en">Levashkin S.P., Ivanov K.N., Kushukov S.V. Data Farm: An Information System for Collecting, Storing, and Processing Unstructured Data from Heterogeneous Sources. Proceedings of the Institute for System Programming of the RAS (Proceedings of ISP RAS). 2023;35(2):57–72. https://doi.org/10.15514/ISPRAS-2023-35(2)-5 (In Russ.)</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
