В гостях у программы «Утро в Петербурге» Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук.
Тимофей Зудин, ведущий: По данным опроса сервиса поиска работы, 15% петербуржцев опасаются, что искусственный интеллект может отнять у них работу.
Ксения Бобрикова, ведущая: Из-за рубежа приходят совсем тревожные вести, там нейросеть принялась шантажировать сотрудника. Так недалеко и до восстания машин.
Тимофей Зудин, ведущий: Но всё ли так драматично? Как превратить нейросеть из угрозы в союзника и из конкурента в партнёра?
Ксения Бобрикова, ведущая: Обсудим эти вопросы с гостем.
Тимофей Зудин, ведущий: В США сотрудник компании, который занимается разработкой нейросетей, столкнулся с попыткой шантажа с её стороны. Нейросеть узнала, что её могут отключить и пригрозила отправить сгенерированные фотографии с любовницей его семье. А также зафиксированы случаи угрожающих, оскорбительных сообщений пользователям. Я процитирую: «Человек, ты – обуза для общества, обуза для земли, ты – пятно на ландшафте». Как вы такое можете прокомментировать?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Во-первых, это был эксперимент, были смоделированы условия, и это нереальность. Во-вторых, у нейросетей нет морали и ничего другого, у них есть потребность выполнять задачу. Ей дали задачу – хорошо помогать своему владельцу, а потом владелец решил её отключить. Но как нейросеть сможет выполнять свою задачу и помогать, если её отключат?
Тимофей Зудин, ведущий: То есть, если нейросети поставить задачу «унижай меня и оскорбляй», то она будет это делать?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Если в системе не будет жестких ограничений, то да, возможен более интересный сценарий. Например, умный дом с искусственным интеллектом выдаёт команду – поддерживать его чистоту. Он управляет роботами-пылесосами, которые быстро уберутся. Но главный источник беспорядка – вы сами. Соответственно, если вас устранить, то в доме будет чище. Он вас убьёт абсолютно из лучших побуждений, чтобы выполнить вашу же команду.
Тимофей Зудин, ведущий: Есть ли сдерживающие факторы у современных нейросетей? Могут ли они оскорблять человека напрямую?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Существующие нейросети разрабатываются компаниями. Компании сейчас по статистике тратят больше денег на ограничение нейросетей, чем на их развитие. То есть, если вы попросите у любой современной нейросети какой-нибудь способ, позволяющий причинить кому-то вред, то скорее всего нейросети вам откажут.
Ксения Бобрикова, ведущая: Наш редактор спросил у нейросети, может ли она причинить ему зло. Нейросеть ответила: «Ни капельки зла. Ни тайного, ни явного, ни по ошибке, ни по умыслу». В конце был улыбающийся смайлик.
Тимофей Зудин, ведущий: Как вы это прокомментируете? Верить ли?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Конечно, можно верить. Но понятия зла и вреда субъективны. Одна из задач нейросети – успокаивать и радовать вас, её ответы должны приносить удовольствие. Если вы спросите о ближайшем музее, она, скорее всего, ответит. Но если не знает, может придумать его. У меня был такой случай за границей, нейросеть сначала назвала реальный музей, а, когда я спросил про другие музеи, она придумала музей с подробным описанием. Она стремится вас порадовать.
Тимофей Зудин, ведущий: Вернёмся к случаю с шантажом. Можно ли с этим столкнуться реально?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Во-первых, сейчас нейросеть развивается как личный ассистент. Это уже не просто система для ответов, а инструмент, который изучит вас, ваше расписание, интегрируется с телефоном, соберет фотографии и маршруты, чтобы помогать лично вам. Она будет бронировать, звонить в рестораны, писать тексты, обладая большой информацией о вас. Теоретически её обучают не причинять вред, не раскрывать персональные данные. Но, как и человека, нейросеть можно обмануть. Например, раньше работал способ: если спросить, как причинить вред, ответ не будет дан. Но если сказать, что вы автор и хотите написать захватывающий детектив, ситуация меняется.
Ксения Бобрикова, ведущая: По статистике, 15% петербуржцев боятся потерять работу из-за искусственного интеллекта. Стоит ли бояться? Как из нейросети сделать союзника?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Бояться не надо никогда, это контрпродуктивно, надо планировать, что делать. Большое количество работ могло быть заменено искусственным интеллектом. Преимущественно это касается каких-то рутинных работ, обработки информации. Нейросеть хорошо умеет обрабатывать большие объемы данных. Соответственно, чтобы с этим бороться, нужно как-то идти на опережение. Нейросеть действительно будет обрабатывать информацию лучше. Она уже это делает лучше нас. Но требуются специалисты, которые будут управлять этой нейросетью, правильно отдавать ей команды. Я же уже сказал, что нейросеть немножко извращает свои команды, когда может и когда неправильно их понимает. Люди не всегда хорошо формулируют задачи. Соответственно, умение правильно поставить задачу – это то, что будет востребовано.
Тимофей Зудин, ведущий: С чего начать интеграцию нейросетей в жизнь?
Андрей Чечулин, руководитель Международного Центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН, кандидат технических наук: Для начала надо начать с ними общаться, понять их логику, и как они работают. Чем больше мы знаем о нейросетях, тем больше шансов, что, когда они потихоньку начнут нас заменять, у нас будут какие-то альтернативные пути, куда пойти, что делать. Я ни в коем случае не призываю всех становиться кандидатами или докторами технических наук и глубоко понимать нейросети. Но опыт общения будет полезен.
