Ведущие издательства учебной литературы давно стали технологичными ресурсами с серьёзным каталогом, полезными разработками, персональными ассистентами и умными рекомендательными сервисами. Уход зарубежных конкурентов, научных баз и дискавери-платформ, развитие ИИ и генеративных моделей открыли новые возможности для отечественных игроков, вектор развития сместился, а электронно-библиотечные системы (ЭБС) стали превращаться в интеллектуальные EdTech-площадки, агрегаторов с колоссальным массивом обучающего контента, базами данных, мощными поисковыми ресурсами и передовыми технологиями.
С вопросом об эффективности использования и перспективных направлениях развития нейросетей и языковых моделей для науки и образования «УК» обратился к ведущим ЭБС.
Есть ли опыт применения инструментов искусственного интеллекта (ИИ) в вашей ЭБС? В каких направлениях? Какие технологии, на ваш взгляд, наиболее интересны и полезны для библиотек, преподавателей, студентов?
Наталья ИВАНОВА, генеральный директор ГК IPR MEDIA
— ГК IPR MEDIA уже более 19 лет помогает вузам и колледжам обеспечить учебный процесс необходимым научно-образовательным контентом и печатной литературой. Как ИТ-компания мы идём в ногу со временем и включаем в свою работу передовые технологии, помогающие оптимизировать процессы создания продуктов, делая наши ресурсы более полезными и удобными для пользователей. ИИ в ЭБС IPR SMART, «PROFобразование» и в других ресурсах мы тоже используем. Например, в системе рекомендаций для пользователей, которая анализирует их интересы и предлагает наиболее подходящие материалы, что значительно упрощает поиск нужной информации, также для создания контента, соответствующего современным образовательным требованиям и запросам пользователей, фонда оценочных средств, трансформации книг в онлайн-курс и визуализации обложек книжных линеек.
Для студентов ИИ уже стал обыденной технологией: они ею пользуются при подготовке курсовых и даже дипломных работ. Они быстрее старшего поколения разобрались в том, как это работает. Преподаватели тоже могут использовать новые технологии и сделать процесс обучения более интересным. Например, создавать собственные онлайн-курсы из книг и дополнять их экспертной составляющей. В этом плане GPT — помощник, так как мониторит всю Сеть, а преподаватель может выступить экспертом для переупаковки информации, её систематизации и экспертизы. В то же время важно учитывать этические вопросы применения ИИ, поскольку он берёт информацию из открытых данных и выдаёт готовый результат. Экспертиза человеком результатов работы ИИ необходима.
Для библиотечного дела ИИ — ключ к модернизации. Системы на базе нейросетей способны обрабатывать и каталогизировать большие объёмы информации, освобождая библиотекарей от рутинных задач. Библиотеки могут применять ИИ для анализа тенденций в использовании ресурсов, выявления популярности определённых тем и пробелов в коллекциях, более эффективно управлять фондами и планировать закупки, основываясь на реальных потребностях пользователей. Это позволит сосредоточиться на более важных аспектах работы.
Антон МОЛЧАНОВ, генеральный директор ЭБС «Консультант студента» (при ответах на вопросы использовался ИИ)
— На данный момент наша ЭБС находится на этапе активной разработки и тестирования инструментов ИИ. Внедрение этих технологий запланировано в нескольких ключевых направлениях.
Константин КОСТЮК, генеральный директор компании «Директ-Медиа»
— Использование инструментов ИИ в информационно-библиотечной отрасли — очень нетривиальный процесс. Мы должны понимать, что прорыв в области генеративных алгоритмов при всей его масштабности мало что дал для решения нашей специфической задачи — организации информационных массивов, упорядочивания и навигации в базах данных. Генерация контента предполагает проектирование языковых и смысловых цепочек, что порождает эффект значительной осмысленности. Но библиографическая работа требует другого: вычленения и установления отношений между информационными объектами. Это совсем иное направление исследований в области ИИ, касающееся экспертных систем, т.е. сложности самих баз данных. Поэтому очень важно понимать, на что стоит направлять свои усилия, на что — пока не следует. Я пока не слышал значимых применениях ИИ в области библиографии. Притом что ИИ нет труда воспроизвести форму библиографической записи, он не способен идентифицировать уже существующий класс объектов. Другими словами, он не может здесь не галлюцинировать.
Это не означает, что у нас не открываются огромные возможности для полезной работы. Мы в работе с ЭБС нашли множество путей применения ИИ. С его помощью достраиваем свои базы данных, совершенствуем электронную библиотеку: создаём и дополняем аннотации к книгам, формируем научный аппарат издания, разрабатываем рекомендательные сервисы. Одно из наших изобретений — создание смысловой карты книги с помощью ИИ. Это не просто визуальное отражение тем и терминов внутри текста, но отображение смысловых узлов и связей между ними. Такой продвинутый разработанный научный аппарат мы назвали концепцией монографии 2.0. В него входят развёрнутое содержание, саммари книги и перевод его на английский язык. Для учебной литературы ключевую роль играют тесты. С их помощью можно превратить учебник в самообучающий комплекс, ведь помимо донесения знаний он будет содержать технологию их проверки. В ближайшем будущем мы продемонстрируем наши результаты.
Конечно, на сегодняшний день именно ИИ — самый многообещающий фактор, способный привлечь внимание к ЭБС и сделать их контент более важным фактором обучения, чем сейчас. По сути, все эти работы касаются создания рич-контента, улучшают качество книг, делая их интереснее. Основной проект, основанный на ИИ, — это робоозвучка, с ней можно познакомиться на сайте aibooks.ru. ИИ помогает подготовить книгу, перевести
её из письменной речи в устную. Расшифровка сокращений, числительных, сносок и т.п. — внушительный объём работы, который удаётся сократить. Благодаря этому становится рентабельным наш книжный сегмент малотиражной литературы. Мы разработали сервис, который позволяет читать голосами актёров, исторических персонажей, в том числе собственным голосом заказчика. В планах — создать коллекцию аудиокниг non-fiction и учебной литературы. Мы также озвучиваем книги по заказам издательств.
Ольга НИКОНОВА, директор по маркетингу издательской группы «Кнорус»
— Безусловно, в ЭБС BOOK.RU используются инструменты ИИ, прежде всего поисковые алгоритмы и рекомендации релевантной литературы, т.е. сервисы, основанные на направлении ИИ по работе с естественным языком. Но честно говоря, меня пока не отпускает ощущение, что само понятие ИИ ещё не до конца сформулировано самим обществом. То есть грань между механизмами обработки больших данных, которые фактически являются сложными алгоритмами, и ИИ очень призрачна. Возможно, потому, что термин «искусственный интеллект» я понимаю как способность к автономному созиданию и принятию самостоятельных решений (спасибо фантастическим фильмам про восставшие машины).
Владислав НИКИФОРОВ, руководитель отдела маркетинга ЭБС Лань
— Технологии ИИ активно используются в работе ряда сервисов ЭБС Лань уже несколько лет. Например, в сервисе каталогизации, который мы запустили в 2021 г., нейросети значительно ускоряют и оптимизируют процесс распределения образовательного контента по областям знаний.
С 2022 г. ИИ создаёт оглавления для части контента в нашей библиотеке. Как агрегаторы мы получаем огромные массивы информации, и это полезный для нас инструмент. Он создаёт корректное оглавление по 2/3 массива, но и это огромное подспорье. Видеорекомендации, основанные на нейросетевых алгоритмах, расширяют образовательный контекст и кругозор, помогают студентам погружаться в тему через дополнительные материалы с образовательных YouTube-каналов.
Ещё один наш сервис на базе ИИ — конструктор для создания электронных учебных курсов: он помогает преподавателю наполнить свой курс контентом из базы данных ЭБС Лань и тем самым качественно выполнить трудоёмкую рутинную работу быстро, просто, сэкономив до 80% времени.
Также мы видим большой потенциал применения ИИ в поисковых механизмах. Поиск, который анализирует не только ключевые слова, но и контекст, намерения пользователя, открывает новые возможности для быстрого и точного нахождения релевантных материалов.
Альбина НЕСТЕРОВА, генеральный директор НИЦ «Инфра-М»
— В электронной образовательной среде Znanium первые инструменты ИИ появились ещё в 2018 г., когда был запущен модуль Discovery Znanium (сейчас — «Аналитика текстов Znanium»). В нём реализованы и успешно применяются по сегодняшний день: интеллектуальный семантический поиск по большому массиву проиндексированных документов (несколько десятков миллионов); эксплоративный поиск, т.е. поиск похожих материалов — как для найденного в системе документа, так и для загруженного файла; поиск заимствований; тематический анализ публикаций в разрезе коллекций и годов; анализ научности текстов; формирование облака ключевых слов как по документу, так и по подборке. Функционал модуля разрабатывался с акцентом на потребности, в первую очередь исследователей, занимающихся научной деятельностью.
Приоритетом же при разработке функционала ЭБС Znanium являются потребности участников образовательного процесса. Наша цель — создать для студента и преподавателя возможность за минимальное количество кликов добраться в ЭБС до необходимого контента. Алгоритмы поиска всегда были в фокусе внимания команды по продукту и разработке. Современный удовлетворяющий, а порой и предвосхищающий ожидания пользователя поиск по контенту организован на мощном программном обеспечении и постоянно развивается (донастраивается). Благодаря такому подходу в ЭБС Znanium легко могут быть найдены документы, их фрагменты, словосочетания как по стандартным метаданным, так и внутри полных текстов и оглавлений. Также сайт Znanium.com предлагает концепцию единого поискового окна, когда на стартовой странице, не задумываясь о навигации по разделам, пользователь вводит поисковый запрос и ему система выдаёт кластеризованные результаты найденного: в каталоге, авторах, классификаторах, названии издательства, аффилиации. При этом пользователь может особо не быть аккуратным при вводе запроса: в ЭБС реализован функционал исправления опечаток, а также подсказок.
Из последнего реализованного функционала следует особо отметить сервис «Ассистент преподавателя», который помогает преподавателю или методисту за считанные минуты подобрать литературу из ЭБС под рабочую программу дисциплины (РПД). Для этого требуется всего лишь загрузить в Znanuim соответствующий фрагмент РПД: система сопоставит требования программы с размещёнными на платформе 90 тыс. полных текстов документов и предложит наиболее релевантные РПД публикации.
Летом 2024 г. была расширена линейка рекомендательных сервисов для пользователей: теперь к каждому документу система средствами эксплоративного поиска (через сопоставление полного текста эталонного документа с полными текстами всех остальных документов системы) находит наиболее похожие с точки зрения смысла публикации и предлагает их к ознакомлению в карточке документа.
Если говорить про генеративный ИИ, то этот инструмент у нас активно работает по задачам маркетинга.
Все вышеописанные опции в Znanium возможны были к реализации только с применением инструментов ИИ при управляющем воздействии интеллекта естественного — человеческого.
Как оцениваете эффективность использования этих технологий с точки зрения оптимизации затрат, минимизации рутинных процессов, удобства читателей, увеличения статистики использования?
Наталья ИВАНОВА:
— ИИ даёт возможность сократить рутинные задачи. Например, в ЭБС IPR SMART в системе рекомендаций для пользователей алгоритм работы таков: ИИ изучает запросы пользователей, затем анализирует и агрегирует корректность запрашиваемых данных и вырабатывает дополнительные рекомендации по контенту. Благодаря этому повысилось качество рекомендаций и увеличилась статистика книговыдачи и изученных страниц. При подготовке обложек к книгам издательства «Ай Пи Ар Медиа» и «Профобразование» генерируют изображения с помощью ИИ, что облегчает работу дизайнеров и сокращает время на подготовку визуальной составляющей.
Антон МОЛЧАНОВ:
— Применение ИИ позволит значительно снизить затраты на обработку данных и управление библиотечными ресурсами. Например, передача «в руки» ИИ классификации и формирования метаданных сократит трудозатраты и позволит специалистам решать более сложные задачи. Минимизация рутинных процессов сортировки и анализа данных ускорит доступ к релевантной информации. Итог — удобство для пользователей, максимальная персонализация взаимодействия с системой, закономерный рост статистики.
Ольга НИКОНОВА:
— Поиск — один из основных инструментов образовательного портала. Чем чётче, тоньше, детальнее он настроен и обучен, тем более однозначные результаты даёт на поисковый запрос. Мы в BOOK.RU большое внимание уделяем его настройкам и постоянным улучшениям. Наши клиенты очень высоко оценивают результативность этого инструмента.
Что касается затрат на внедрение ИИ-технологий: увы, они велики. Но ни одна передовая технология не достаётся дёшево. Стоимость работы специалистов, программные интеграции — всё это востребованно и соответственно необходимы серьёзные бюджеты.
Владислав НИКИФОРОВ:
— Текущая оценка эффективности технологий ИИ ещё на ранней стадии, но мы уже наблюдаем значительное ускорение процессов, которые раньше требовали больше времени и человеческих ресурсов. ИИ помогает минимизировать ошибки, которые возникают из-за рутинных задач, повышает качество продукта.
Альбина НЕСТЕРОВА:
— Существует ряд метрик, по которым мы оцениваем эффективность внедрённых в ЭБС Znanium технологий. Если говорить о поиске, это число кликов от поискового запроса до полного текста документа в ридере; количество эпизодов применения одним пользователем поиска похожих документов и перехода к полному тексту; число случаев использования кластеров, подсказок, поиска по оглавлениям, по полному тексту; конверсия от захода на сайт и чтение в ридере.
Для сбора первичных «атомов» статистики использования сайта ЭБС необходим достаточно мощный и быстрый инструмент: в Znanium с этой задачей прекрасно справляется аналитическая база данных от «Яндекса» — ClickHouse. Как результат продуктологи платформы Znanium получают массив «сырья» для аналитической работы, а пользователи и библиотекари — развёрнутую честную статистику использования системы в режиме онлайн. Надлежащая аналитика для разработчиков и удобство работы с сайтом для пользователей дают кумулятивный результат в виде нахождения ЭБС Znanium в списке лидеров среди ЭБС по посещениям сайта (на основе данных сайта Similarweb.com).
Какие дополнительные сервисы могут появиться (или уже тестируются) в ближайшее время благодаря развитию генеративных моделей (саммари и идентификация ключевых тем, персонализация и анализ цифрового следа читателей, создание дополнительных рекомендаций и пр.)? В чём видите перспективы?
Наталья ИВАНОВА:
— Одно из направлений, которое IPR MEDIA сейчас развивает, — трансформация книг в онлайн-курсы. Как это происходит? ИИ анализирует структуру и содержание книги, определяя ключевые темы и понятия, выявляя логические связи между разделами и составляя оптимальную последовательность изучения материала. Затем создаёт интерактивный контент: тестовые вопросы, практические задания, визуальные материалы и т.д. Использование ИИ позволяет персонализировать обучение и непрерывно улучшать курсы на основе анализа поведения пользователей и потребностей аудитории.
Антон МОЛЧАНОВ:
— На сегодняшний день у нас тестируется внедрение следующих решений.
В перспективе — создание принципиально новой адаптивной образовательной платформы, где каждый пользователь лично использует ИИ в своих целях.
Константин КОСТЮК:
— Интересные и плодотворные исследования у нас проходят в области среднего образования. Технологии ИИ встроены в программу «Аналитик чтения», которая оценивает комплексность текстов и уровень читательской грамотности учеников, помогает её повышать. Мы ищем формы использования ИИ в работе Ресурсного центра иностранных языков: здесь нейросеть помогает формировать и оттачивать навыки изучения языка, вплоть до ведения тренингов и учебных диалогов бота с учеником. Ещё одна область применения — проект Express-translation: машинные переводы ИИ профессиональной литературы для быстрого ознакомления. Эта коллекция за короткий срок должна пополниться тысячами томов актуальной научной литературы.
Ольга НИКОНОВА:
— Думаю, что в ближайшее время аудиализация — одна из ключевых перспектив использования новых возможностей ИИ в библиотечных системах. Вопрос доступности и качества перевода текста в аудио для образовательного контента по-прежнему стоит остро. А в отношении технической литературы — крайне остро. Этот инструмент просто необходим для поколения, привыкшего смотреть и слушать гораздо больше, чем читать. Кроме прочего, он значительно расширит возможности для инклюзивного обучения.
Ну а студенты, наши пользователи, наверняка мечтают о появлении в ЭБС BOOK.RU волшебной кнопки, которая по одному запросу всё сама напишет, проверит и профессору отправит.
К счастью, пока в этом плане развитие ИИ в периоде цифрового палеолита.
Владислав НИКИФОРОВ:
— Одним из многообещающих направлений мы считаем интеграцию ИИ в поисковые системы. В частности, внедрение подобных GPT технологий, которые могут генерировать готовые ответы и помогать пользователям находить нужную информацию быстрее и точнее. Такие сервисы уже работают в поисковых системах, например в «Яндекс Нейро», и это направление активно изучается и нами.
Персональные ассистенты, которые используют ИИ для работы с большим объёмом данных, также представляют собой перспективную нишу. Такой цифровой помощник генерирует готовый ответ на основе верифицированных источников, с минимальным риском так называемых галлюцинаций нейросети, способен помочь в формировании плана будущей работы (статьи, доклада выступления и даже диссертации), а также в наполнении создаваемого материала.
Мировые визионеры и эксперты открыто говорят о том, что ИИ изменит образовательный процесс. Например, основатель платформы онлайн-курсов edX и профессор MIT Анант Агарвал заявил: «Сейчас мы переживаем ещё один поворотный момент, когда у нас есть возможность применять ИИ для фундаментального изменения процесса преподавания и обучения. Учащиеся могут использовать ИИ в качестве соавтора проекта, индивидуального наставника или компаньона на протяжении всей жизни. Преподаватели могут создавать увлекательный контент, индивидуальную программу обучения и оптимизировать инструменты оценки» (Мария Решетникова. «Миру нужен миллиард разработчиков»: мнение визионеров о будущем работы // РБК Тренды. 08.07.2024. Точный адрес статьи: https://trends.rbc.ru/trends/education/668b93fa9a7947b205a141e3?from=copy).
Альбина НЕСТЕРОВА:
— Основное направление развития ЭБС Znanium в контексте внедрения инструментов ИИ заключается в предоставлении пользователям функции саммаризации текстов. Это позволит быстрее понять, о чём говорится в документе, без необходимости читать его целиком, что особенно важно в ситуации, когда авторская аннотация отсутствует или не отражает полностью ключевые аспекты содержания документа. Кроме того, мы планируем внедрить рекомендательные сервисы по подбору изданий для опубликования подготовленных научных работ на русском и английском языках. Ряд сервисов по эксплоративному мультиязычному анализу терминологии предметных областей находится на стадии внедрения и тестирования. В системе имеется ряд скрытых от пользователя задач, над решением которых с применением методов машинного обучения работает наша команда. Среди них — извлечение полуструктурированных метаданных, распознавание сканированных текстов, разбор библиографических ссылок в разных форматах и их связывание с документами, решение задачи авторской неоднозначности при сопоставлении персон (авторов) с их текстами. И хотя пользователи не сталкиваются напрямую с этими функциями системы, результаты их работы влияют на качество данных, доступных для поиска.
Чего не хватает на сегодняшний день для более активного внедрения сервисов ИИ?
Наталья ИВАНОВА:
— Сегодня существует ряд препятствий, которые мешают более активной интеграции этих технологий. Первый и, возможно, самый значимый фактор — недостаток квалифицированных кадров. Для эффективной работы с ИИ необходимы специалисты, обладающие знаниями в области данных, программирования и библиотечного дела. К сожалению, многие библиотеки сталкиваются с нехваткой таких сотрудников, что сдерживает их способность внедрять и использовать современные технологии. В то же время уже работающие библиотекари не всегда понимают, как взаимодействовать с ИИ. На платформе Datalib мы разработали бесплатный курс по промт-инжинирингу, который помогает научиться использовать нейросети в работе и в жизни. Надеемся, что эти знания помогут сотрудникам библиотек образовательных организаций быстрее адаптироваться к вызовам времени.
Второй аспект — ограниченные бюджеты библиотек. Внедрение ИИ требует не только первоначальных затрат на программное обеспечение, но и расходов на обновление, обучение персонала и техническую поддержку. Без достаточного финансирования многие библиотеки не могут позволить себе реализацию проектов, связанных с ИИ. В то же время внедрение ИИ в библиотечное дело может помочь актуализировать профессию библиотекаря, сделать её более инновационной и технологичной, чтобы привлечь молодых людей, интересующихся новыми технологиями и цифровыми процессами, к освоению этой интересной профессии.
Третья проблема заключается в недоработанности законодательной базы. В 2019 г. была опубликована и утверждена Указом Президента РФ «О развитии искусственного интеллекта в Российской Федерации» Национальная стратегия развития ИИ на период до 2030 года, но до сих пор нет чёткого законодательного регламентирования, из-за чего могут возникать этические и правовые коллизии. Хотя работа в этом направлении уже ведётся: в мае 2024 г. в Госдуме начали разработку закона о маркировке созданного нейросетями контента.
Антон МОЛЧАНОВ:
— На сегодняшний день, пожалуй, главная проблема — именно недостаток специалистов. Многие делают ид, что разбираются в теме, но реальных профессионалов в области ИИ крайне мало. Финансовые ограничения, как правило, являются отговоркой. Внедрение новых технологий (ИИ не исключение) всегда рассматривается в различных вариантах, и было бы желание, любая компания может себе это позволить.
Что касается юридических аспектов, то да, с законодательством в нашей стране всегда проблемы, но именно в вопросе ИИ власть сегодня явно работает на опережение: зачастую никакого ИИ ещё нет, а жёсткие требования к нему, нормативная база, бодрые призывы к скорейшему внедрению и развитию и даже торжественные отчёты о достижениях уже есть. С прозрачностью алгоритмов, на наш взгляд, всё более или менее нормально. Уверен, все проблемы преодолеем.
Ольга НИКОНОВА:
— Законодательство в области ИИ, насколько мне известно, ещё не сформировано. Прежде всего именно по той причине, что нет полного понимания самого явления «искусственный интеллект», его самостоятельных возможностей. Картина исключительно благостная: сплошная польза.
Думаю, всего пока хватает. Крупные и богатые корпорации активно инвестируют в исследования в этой области, тот же «Яндекс» уже не первый год занимается разработкой проекта самоуправляемых автомобилей, обучая ИИ опыту поведения на дорогах на примере реальных автомобилей с водителем.
Книжный рынок более консервативен, все в основном пока внедряют отдельные элементы ИИ и аккуратно расходуют бюджет. Я не совсем уверена, что это именно та область для нас, в которой стоит бежать спринт.
Владислав НИКИФОРОВ:
— Важный фактор при разработке сервисов ИИ — необходимость значительных инвестиций в техническое обеспечение таких решений. Разработка и поддержка систем требуют высокооплачиваемых топ-специалистов и постоянного обновления технологической базы.
Альбина НЕСТЕРОВА:
— На наш взгляд, основными факторами, препятствующими вдумчивому и обоснованному внедрению ИИ, являются излишнее внимание и «хайп» — завышенные ожидания от применения нейротехнологий. Этот фактор оказывает существенное влияние на развитие отрасли ИТ во всём мире, и Россия здесь не исключение. Зачастую это приводит к смещению приоритетов развития и внедрения продуктов и технологий, когда дань моде ставится в приоритет по отношению к экономическому или социальному эффекту от использования того или иного технологического решения. Само по себе более активное внедрение методов ИИ ничего не даёт, вопрос заключается в другом: каких эффектов и какой ценой возможно достичь, внедряя информационные технологии (важной частью которых являются технологии ИИ)? Ответив на него, возможно оценить и сдерживающие факторы: недостаток подготовки кадров, перегрев рынка труда в ИТ, бюрократические препоны, связанные с определением бюджетов и сроков реализации проектов.
Какие опасности и угрозы появляются по мере более активного использования инструментов ИИ? Как целесообразно регулировать эти риски (кодексы этики и стандарты, отраслевые меморандумы, законодательство, защиту правообладателей, критическую оценку информации и верификацию контента)?
Наталья ИВАНОВА:
— Возможности ИИ постоянно растут. Уже не всегда удаётся отличить текст, сгенерированный нейросетью, от написанного человеком. Однако необходимо понимать, что ИИ — это помощник, результат работы которого должен критически оценивать и проверять человек. В приоритете при развитии нейросетевых технологий должна быть защита интересов человека. Необходимо внедрять ИИ там, где он принесёт пользу людям, а создавая технологии или используя их, осознавать свою ответственность. Также важны максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, о возможностях и рисках, которые они несут. Необходимо делать акцент не только на технологиях, но и на мышлении людей: проводить ликбез, методическую воспитательную работу.
Сегодня один из важных аспектов в применении ИИ — нарушение авторских прав. Например, в образовательных курсах и работах студентов, созданных с применением ИИ, нередко используются целые главы научных трудов без ссылок на источники, при этом авторы произведений науки не имеют инструментов для быстрого подтверждения или фиксации прав. В 2024 г. ГК IPR MEDIA подписала Кодекс этики в сфере искусственного интеллекта, принципы которого соблюдает, и вошла в состав участников проекта «Альянс в сфере искусственного интеллекта». Также на Форуме непрерывного образования, который прошёл летом на ВДНХ, мы внесли предложение о создании российского реестра произведений науки и образовательного контента. Сейчас ещё нет чёткого законодательного регламентирования данной стороны вопроса, но плагиат в научных работах уже стал серьёзным вызовом для академического сообщества и интеллектуальной собственности.
Антон МОЛЧАНОВ:
— Оставив за кадром легенду о Големе и пресловутый бунт машин, отмечу следующие риски.
Одним словом, на GPT надейся, а сам не плошай. И безусловно, для безопасности и эффективности внедрения ИИ необходимо создание этических кодексов и отраслевых стандартов, т.е. строгое юридическое регулирование процесса. Но это вопрос опять же к законодателям, а не к учёным и не к разработчикам образовательного контента.
Ольга НИКОНОВА:
— Не в полной мере осознавая возможности ИИ, сложно просчитать опасности. Пока очевидны одни плюсы, в том числе в области авторского права и обнаружения заимствований: возможности ИИ по поиску и анализу Big Data значительно превосходят
возможности человека.
Константин КОСТЮК:
— Для всего педагогического сообщества сейчас особое время и особый вызов. Технология генеративного ИИ — прямая угроза со стороны злоупотреблений участниками учебного процесса. Если будет существовать опция обхода проверки знаний, а именно это обещает ИИ, то встанет под вопрос весь процесс. Экзамен или проверка квалификационных работ будут профанацией. Поэтому первый, кто должен разобраться в этой технологии, — преподаватель. Мы проводим массовое повышение квалификации преподавателей, организуем конференции по ИИ в обучении, создаём онлайн-курсы, издаём книги по ИИ — не только для преподавателей, но и для студентов. Студенты тоже должны разбираться в способах легитимного и полезного использования инструментов ИИ. Наиболее амбициозный проект в этом направлении — «Лаборатория ИИ». Её организация ставит целью проведение бесплатного обучения вкупе с практическим применением и работой над реальными задачами. Студенты-волонтёры будут участвовать под руководством наших специалистов в прикладных исследованиях. Мы рассчитываем, что вместе с обученными студентами сможем находить заказчиков в реальной экономике. «Квалифицированное» включение университетского сообщества в процесс освоения ИИ — необходимое условие того, чтобы эти технологии вообще вошли в нашу жизнь и показали свою эффективность.
Я отношусь к тем экспертам, которые предвидят максимальные, судьбоносные изменения от пришествия технологий ИИ. Есть люди, которые видят в ИИ очередную волну общественного возбуждения наподобие ситуации с блокчейном, которая в скором времени осядет. Я считаю, что вместе с ИИ меняется цивилизационный фундамент нашей культуры, заключающийся в антропоцентризме. Права человека, демократия, как и научно-технический прогресс, индустрия, наша медиакультура, — всё это вытекает из принципа «всё для человека, всё во имя человека». Всё это создал и создаёт человек самостоятельно, с помощью своего разума. Вместе с ИИ возникает помощник, выпускается «джинн», который во многом мощнее и сильнее человека. И дело даже не в том, что «джинн» может выйти из подчинения, не в том, чтобы использовать его только для «хороших» целей. Само присутствие «иного» разума полностью поменяет констелляцию условий цивилизации. Уже до изобретения генеративного интеллекта это происходило семимильными шагами, когда человек самостоятельно переходит на математизированное, вычислительное мышление машин. Разрабатывает именно тот язык, на котором он может разговаривать с машинами, с помощью которого машина будет понимать человека. Ну и даже если рассматривать ИИ в сугубо инструментальном ключе: как удлинение «рычага разума», как источник новых возможностей и энергий, которые благодаря этому станут доступны, то нужно понимать, что технологический скачок окажется колоссальным. Изменится само понимание знания, весь комплекс знаниевых навыков, которые требуются человеку. Освоение этих новых правил, понимание своего места в интеллектуальных и производственных процессах станут важнейшими компетенциями современного человека. И от того, насколько быстро и глубоко мы изменим свои учебные программы, освоим эти технологии университетским сообществом, научим применять их первоначально в условиях этого высококвалифицированной интеллектуальной среды, зависит, в чьих руках окажется эта технология.
Сегодня под угрозой «межстрановой баланс» (фантастически быстро растущий цифровой разрыв между государствами), межотраслевой промышленный баланс (вовлечённые в экономику или «лишние» специальности и трудовые кадры), социальный баланс (классы и слои, выигравшие и проигравшие от новых технологий). Социальные катастрофы от таких цивилизационных тектонических сдвигов неизбежны. Пока ещё есть время для свободных экспериментов, но буквально через год-два потребуется «нож хирурга», а именно твёрдая рука законодателя, который должен регулировать этот стихийный процесс технологического развития, чтобы сгладить процесс адаптации.
Альбина НЕСТЕРОВА:
— Основная угроза и риск, которых мы касались в ответе на предыдущий вопрос, — завышенные ожидания и применение методов ИИ там, где это не требуется или неоправданно. Следует понимать, что термин «искусственный интеллект» означает не имитацию человеческих мышления и способностей, а лишь возможность компьютерных систем эффективно решать задачи без известного математически формализованного алгоритма, опираясь на данные и знания о среде и её текущем состоянии. Причём за счёт способности к быстрому вычислению у современных ЭВМ мы можем получать результат решения задачи за секунды, в то время как у человека на решение аналогичной задачи ушли бы месяцы, а в отдельных случаях — годы. Поэтому методы ИИ разумно рассматривать как ассистенты человеку в процессе принятия решений и при автоматизации трудоёмких и ресурсоёмких задач. При этом окончательное решение и ответственность за результат остаются за человеком. Разумеется, существуют области, например робототехника, где требование автономности объекта не позволяет обеспечить полный контроль со стороны оператора за принятым решением и совершением действия. Однако в этой сфере на помощь приходят методы ИИ, которые называют доверенными и объяснимыми. Доверие связано с ограничением системы по реализуемому поведению в некоторых условиях. Объяснимость — способность системы с элементами ИИ представить человеку причинно-следственную связь полученного решения целевой задачи. Поэтому обоснованное применение технологий ИИ, использование принципов доверенного ИИ и объяснимости результата работы с одновременным контролем со стороны человека в критически важных областях надёжно парируют риски от широкого внедрения этих технологий.
Рубрика: Инновационные технологии
Год: 2024
Месяц: Ноябрь
Теги: Наталья Иванова Электронно-библиотечные системы (ЭБС) Константин Костюк Альбина Нестерова Ольга Никонова Антон Молчанов Владислав Никифоров Электронные библиотеки
