В гостях у программы «Утро в Петербурге» Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт-Петербургского государственного университета промышленных технологий и дизайна.

Тимофей Зудин, ведущий: Исторический документ — это свидетельство эпохи, своего рода голос человека, который жил сотни лет назад. Но что делать, если этот голос почти невозможно расслышать: чернила выцвели, бумага повреждена, а слова скрылись за пятнами или разрывами? Теперь на помощь историкам приходят не только реставраторы, но и искусственный интеллект. Петербургские учёные разработали программу, которая помогает восстанавливать утраченные фрагменты исторических документов: она анализирует сохранившийся текст и предлагает варианты того, что могло быть написано в повреждённых местах. Сегодня в студии — Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна. Расскажите, что в первую очередь делает ваш алгоритм и как выглядит процесс восстановления?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Опишу на примере. Представьте: вы читаете книгу, переворачиваете страницу — и на самом интересном месте видите чёрную кляксу, загородившую важные слова. Первая интуиция — посмотреть на размер пятна, какие буквы оно загородило, и на визуальные якори: какой текст слева, какой справа. На основании этого и размера упущенного фрагмента можно попробовать восстановить отсутствующий текст. Наша программа делает почти то же самое, но для воспроизведения человеческой интуиции в машинном виде требуется большая работа. Сначала алгоритм разбивает текст на смысловые блоки — понимает, где заголовок, где картинка, где обычный текст. Затем устанавливает связь между ними, определяя порядок следования. Далее идёт этап предобработки текста: мы в основном работали с повреждёнными документами — пожелтевшими, выцветшими, с графическими дефектами, пористостью и т. п. Чтобы эти фрагменты не мешали распознаванию, текст нужно предобработать — в частности, убрать часть цветовых искажений.

Марианна Дьякова, ведущая: Программа выдаёт единственный возможный вариант или предлагает несколько?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Зависит от этапа. На этапе предобработки система работает по нескольким готовым сценариям — повреждения обычно типовые. Если речь о восстановлении отсутствующего фрагмента, программа предлагает варианты.

Тимофей Зудин, ведущий: Искусственный интеллект нередко «галлюцинирует» — придумывает то, чего не было: несуществующие имена, события, даже научные статьи. В работе с историческими документами достоверность критически важна. Как вы боретесь с этим явлением?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Вы правы: это и есть так называемые галлюцинации, с которыми сталкиваются во всём мире. Мы разработали комплекс мер противодействия. Первое — контекстная проверка: после распознавания специальная лингвистическая модель (похожая на чат‑бот) проверяет, соответствует ли текст контексту эпохи. Второе — учёт точного количества упущенных символов: мы знаем, например, что не хватает слова из девяти букв. Это сильно снижает число ошибок — по сути, получается задача вроде кроссворда, где по смыслу и длине слова почти всегда удаётся найти верный вариант.

Марианна Дьякова, ведущая: С какими документами уже удалось поработать?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Основной полигон исследования — собрание газет «Кадры в стране» за почти 50 лет. Это сложные материалы для извлечения информации: при распознавании текста с помощью ИИ возникает множество проблем. Кроме того, технологию тестируем на квитанциях, счетах, договорах — на менее повреждённых документах, чтобы понять, с какими типами задач система справляется лучше.

Тимофей Зудин, ведущий: Какие повреждения искусственный интеллект восстанавливает относительно легко, а с какими справиться практически невозможно?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Некоторые повреждения восстановить невозможно. Например, если страница полностью вырвана, система не сможет «угадать», что на ней было. Но она пометит, что отсутствуют, скажем, страницы 57–58 — это важно учитывать при работе с текстом. Хорошо удаётся восстанавливать недостающие символы и слова: фрагмент до 3–4 слов система определяет почти точно. При этом всегда предлагаются варианты, а не единственный «правильный» ответ.

Марианна Дьякова, ведущая: А как система работает с рукописями, где почерк бывает совершенно нечитаемым?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Система реализована модульно. Мы дообучили её распознавать шрифт, которым напечатана газета, — ведь это не современный шрифт, и машину нужно было специально донастроить. Аналогично можно обучить систему понимать конкретный почерк, но для этого потребуется очень большой объём данных.

Тимофей Зудин, ведущий: Если бы вы могли выбрать любой исторически ценный документ для восстановления, какой бы взяли в работу?

Никита Сиротенко, ассистент кафедры интеллектуальных систем и защиты информации Санкт‑Петербургского государственного университета промышленных технологий и дизайна: Интересный вопрос. Одна из самых захватывающих задач — помпейские свитки. Во время извержения Везувия свитки обгорели и превратились в угольки, но внутри сохранился текст. Проблема в том, что при попытке их развернуть они рассыпаются в пыль — их держит только угольная оболочка. Учёные уже многократно просвечивали их с помощью компьютерной томографии и пытаются восстановить текст неинвазивными методами. Было бы здорово, если бы наша технология смогла помочь в этой сложной задаче.