Фото: телеканал «Санкт-Петербург» / АО «ГАТР»
Эксперт отметила, что алгоритм не пытается обмануть пользователя. Программа просто подбирает наиболее вероятное продолжение фразы, заполняя пробелы в знаниях логичными, но искусственными связками. Для модели важно создать связный текст, а не проверить его достоверность. Поэтому вымышленные фамилии и статьи звучат абсолютно убедительно.
Чтобы не попасть впросак, эксперт советует проверять факты, от которых зависит главный вывод. Все цифры, даты и ссылки нужно искать в первоисточниках, а неподтвержденные данные лучше убрать.
Также важно правильно ставить задачу. Абстрактный запрос вроде «Расскажи все о Петре I» не задает нужный формат, и модель может выдать бесполезный общий ответ.
Отдельный вопрос – ответственность самого пользователя. Особенно это касается студентов – кто виноват, если учащийся сдаст работу с ИИ-фактами? Ответ прост – нейросеть может ошибиться, но именно студент решает, использовать ли ее текст. Эксперт напомнила, что правила университетов различаются, поэтому нужно следовать требованиям преподавателя и не выдавать непроверенный текст за свою работу.
«Важно четко разделять несовершенство технологии и ответственность студента за итоговый текст. Грамотный промпт действительно помогает яснее поставить задачу, но он не отменяет фактчекинг и не превращает нейросеть в безошибочную базу знаний», – заключила Татьяна Устюгова.