Человек становится ненужным? Профессор назвал риски развития ИИ и нейросетей

«Ты домой собираешься?» – спросила меня коллега в пятницу вечером, закрывая дверь редакции.

«А куда мне торопиться? Если снова и выйду замуж, то только за работу!» - пошутила я в ответ.

А через мгновенье началось… Свадебные платья всех фасонов и стран производителей. А потом заманчивые акции ювелирных салонов в честь моей будущей свадьбы. Я благодарна за всю эту чудную рекламу, появившуюся случайным образом в моём телефоне, но ведь моя свадьба – это сарказм. Да и запроса на всё это не было.

Две недели предсвадебного рекламного ажиотажа - и всё стихло. И стало страшно. Кто-то знает то, чего не знаю я?

Корреспондент сайта «АиФ в Омске» попыталась выяснить, чего в современном мире стоит бояться больше: прогресса, компьютеров, искусственного интеллекта (ИИ) или людей, их использующих?

Очень большая библиотека

За ответами на эти вопросы я обратилась к профессору ОмГУПС Сергею Костареву.

«Мне представляется, что сейчас искусственный интеллект – это распиаренная новость, которая многих немного пугает. Но надо понимать, что ИИ – это не про восстание машин и роботов, а про то, что часть привычной человеческой деятельности и умственного труда может исчезнуть за отсутствием необходимости. ИИ подобен качественному поисковику — это программа, которая генерирует текст по образцам, принятым людьми.

ИИ имеет доступ к очень большой библиотеке и способен собрать ответ на любой вопрос, но при этом не предлагая ничего принципиально нового и не делая открытий», - ответил профессор.

«Кто бы что ни говорил, но часть привычного умственного труда может быть заменена ИИ в большинстве сфер. Это хорошо заметно по современным студентам, - продолжил профессор. - Они могут предоставить качественную учебную работу, не затратив на неё практически никакого творческого труда. Просто задавать вопросы ИИ и получать «красивые» ответы на пятёрку.

Но это значит, что деформируется система и стандарты, действующие сейчас в системе высшего образования, вступают в противоречие с современной техникой поиска информации и получения знаний. В этой сфере государство отстаёт от технического прогресса при формировании стандартов обучения. Например, ЕГЭ и обычные экзамены с ответами на стандартные вопросы помогают сформировать человека, функции которого ИИ может выполнить лучше», - продолжил Костарев.

Я поинтересовалась перспективами.

Искусственный интеллект поймал омича, который из форели изготовил сельдь Подробнее

«Такой человек становится ненужным на рынке труда – и это главный риск внедрения ИИ. Но бояться этого не стоит, необходимо менять систему образования, вводить стандарты использования ИИ, организовывать доступ к базам данных, а людей обучать техникам извлечения данных и творчеству.

При этом начинать надо не с детей. У них как раз с этим нет проблем – они успешно сами всё осваивают практически с рождения. А вот у старшего поколения с этим сложности. И многие возрастные люди, принимающие важные решения, просто не готовы к тому, что часть привычной работы, которой они занимались всегда, может быть выполнена более качественно без их участия за секунды и минуты. Тот же анализ большого количества данных: у человека с калькулятором и листом бумаги на него ушли бы недели и месяцы труда с большими затратами, а ИИ это сделает быстро и дёшево. И возникает проблема: люди, принимающие решения, не пользуются ИИ, потому что просто не готовы морально и интеллектуально, но могут пытаться его регулировать, вводя ограничение на его использование, тормозя прогресс.

В частности, в системе образования, по моему мнению, надо перестать требовать от человека запоминать огромное количество информации, на чём и построена система нашего образования. Необходимо учить оперировать гигантскими объёмами данных, в том числе с помощью ИИ, использовать имеющуюся информацию и искать оригинальные решения», - уточнил Сергей Костарев.

Причина проблем «дыры»

С Сергеем Костаревым мы вспомнили историю омички Марии, дочь которой стала кредитным должником в 7 лет.

Напомню, что мама девочки всего лишь хотела получить доступ к Дневник.ру для своей первоклашки. Для этого она привязала документы – свидетельство о рождении и СНИЛС ребёнка к своему личному кабинету на портале «Госуслуг». Вместе с доступом к электронному дневнику она получила 40 долгов со всей страны от судебных приставов на 700 тыс. рублей. И все эти долги были оформлены на девочку.

«Документа не было». Долг 8-летней девочки из Омска был взят до её рождения Подробнее

Я спросила, как вообще работает большая база данных и какие могут быть проблемы внутри неё в принципе.

«Что касается всяческих ошибок с базами данных, то бывает, что разработчики не учли множество факторов и запустили «сырую» систему с рисками для пользователей – для людей. Очевидно, что изначально не проработана нормальная система защиты, а проблемы решаются по мере их возникновения. Такие сбои – это не про искусственный интеллект, а про человеческий фактор: изначально допущены ошибки при разработке программы.

Да, иногда кажется, что можно сделать информационный продукт (базу данных) быстро и дешевле, но при этом обязательно останутся «дыры», которые проявятся в самых неожиданных местах, что бывает крайне плохого для конкретного человека», - отвечает профессор Костарев.

«Исправить ошибки в готовых продуктах очень сложно. Проблема информационных технологий и больших баз данных в том, что легче её создавать с нуля, а не потом пытаться вносить изменения в отдельные места. Потому что, как только начнётся устранение даже самых малых недочётов, внутри всё нарушается, что требует дальнейших исправлений - и так может продолжаться до бесконечности. Вот почему нельзя торопиться, а лучше потратить достаточное количество ресурсов и времени, чтобы исключить возможные ошибки и создать качественный продукт, которым люди смогут пользоваться без лишнего риска.

Проблема может быть и в другом. Информационные системы были созданы качественно, но без учёта криминального фактора, когда злоумышленники пытаются использовать данные для своих преступных целей. В этом случае, помимо технических средств, нужно обязательно вводить правовые ограничения (например, невозможность использования данных без личного подтверждения) или дать возможность человеку самому запрещать проведение определённых действий со своими данными (например, отключить возможность выдачи кредитов), - продолжает Костарев. - Конечно, такие сбои случаются не часто, что на уровне миллионов пользователей практически незаметно, но для одного конкретного человека даже одна такая ошибка может привести к беде».

«Привет, дорогая!» Как аферисты копировали мою личность и что из этого вышло Подробнее