Названа главная угроза нейросетей: «Могут стать центрами принятия решений»
Мировая революция пришла откуда не ждали. Искусственный интеллект совершил невиданный даже по самым смелым ожиданиям аналитиков прорыв. Эксперты говорят о революционном изменении модели мира в связи с широким внедрением ИИ. Нейросети уже повсюду: они выдают кредиты, учат школьников писать сочинения и придумывают броские заголовки для СМИ. Даже политики оказались в «сетях» машинного разума. «Единая Россия» собралась использовать ИИ для региональных выборов-2023. Вот только специалисты смотрят в дивный новый мир, опутанный нейросетями, с тревогой.
Без использования технологий искусственного интеллекта сейчас выиграть будет невозможно. Такое заявление на старте предвыборной кампании в регионах сделал замсекретаря генсовета «Единой России» Сергей Перминов. ИИ партийцы планируют задействовать в работе с электоратом. По мнению Перминова, нейросети помогут привлекать новых сторонников, презентовать планы партии. Работать «Единая Россия» будет с доступными публичными наработками в сфере ИИ. На данный момент речь может идти о зарубежных нейросетях ChatGPT 4 и Midjourney, а также отечественной Kandinsky 2.0. Последняя как раз поможет с картинками, а первые две умеют делать аналитику и давать прогнозы.
Кроме того, партия хочет использовать ИИ «для творческих подсказок», включая технологический штурм, с которыми такие системы справляются в считаные секунды», — цитирует слова Сергея Перминова РБК. Напомним, ранее ЛДПР заявила о планах по созданию нейросети «Жириновский». По задумке, в ИИ загрузят весь массив трудов и выступлений Владимира Вольфовича. Если проект будет реализован, покойный политик обретет вторую жизнь в цифре и, возможно, еще не раз порадует нас своими безошибочными прогнозами (или, что вероятнее, напугает).
Перспективы и, главное, риски столь масштабного использования ИИ обсуждали в понедельник и на площадке Совфеда. Сенатор Ирина Рукавишникова напомнила, например, что даже Владимир Путин говорил о роли искусственного интеллекта для безопасности и обеспечения суверенитета страны. В горизонте планирования на ближайшие 10 лет цель России — массово внедрить ИИ во все сферы жизни и экономики, подчеркнула сенатор.
Так, к примеру, ИИ вполне может давать бесплатные юридические консультации вместо юристов. Но пока только по простым стандартным делам. Сложные придется все равно вытягивать самому адвокату: у нейросети пока нет нужного опыта. Плюс у ИИ нет предубеждений, эмоций и эмпатии. Хорошо это или плохо — решать уже клиентам. Но эксперты и сенаторы уже пришли к общему знаменателю: главное — не допускать ИИ до принятия решений. В праве, политике, медицине — где угодно.
Более того, машинный разум, похоже, сможет заменить даже самих законотворцев. Не факт, что полностью. Но понятие «машинопроектируемые нормативно-правовые акты» в дискуссии в верхней палате звучало активно.
Эксперт Национального центра развития искусственного интеллекта при Правительстве РФ Павел Елсуков посетовал, что сейчас многие законы и документы рангом пониже из-под пера «живых» чиновников и парламентариев выходят попросту нечитабельными. Если их будет создавать машина, может, результат и лучше получится. Но есть нюанс: чтобы ИИ написал качественный закон, его этому надо обучить. А как учить, если «кормовая база» для нейросети, мягко говоря, не совсем полезная?
— Есть риск, что мы получим ситуацию «trash in — trash out» (мусор на входе — мусор на выходе), — пояснил Павел Елсуков. — Необходимо тщательно отбирать тот материал, который дается искусственному интеллекту для обучения.
Но криво написанные законы — далеко не главная опасность, которую таит в себе ИИ. Как рассказал советник уполномоченного по правам человека в РФ Роман Торшин, самая известная сегодня нейросеть GPT-4 уже умудрилась несколько раз серьезно нарушить права человека из-за распространения откровенных фейков. Например, она навешала обвинения на ни в чем не повинных людей и выдала это в ответах по запросам пользователей, в результате чего пострадавшие подали иски к администрации сети.
— Есть риск манипуляций общественным сознанием и политической цензуры. Я задавал запросы нейросети про Трампа и Байдена, и ответы были кардинально разными в связи с политической цензурой в США. Риском также является неконтролируемый взрывной рост аудитории нейросетей. Каждый месяц число пользователей увеличивается в разы. В итоге GPT-4 по охвату аудитории приближается к самому Интернету, а сама нейросеть превратилась в мощное средство массовой информации, — рассказал Торшин.
При этом ИИ уже научился справляться с нестандартными творческими задачами. Как рассказал Роман Торшин, аппарат омбудсмена шутки ради попросил нейросеть проанализировать детские сказки, сравнить их с основными правами человека и найти именно те произведения, в которых те или иные права лучше всего отображены.
Вот что получилось: «Колобок» — право на свободу передвижения. «Красная Шапочка» — право на защиту от насилия. «Золотой петушок» — право на свободу мысли.
Помимо этого массовое внедрение ИИ неминуемо переформатирует рынок труда, констатировал советник омбудсмена. Причем сами нейросети не скрывают, кого именно они смогут «подвинуть». На вопрос аналитиков ИИ ответил, что первыми исчезнут рекламщики, маркетологи и репетиторы. Зато появится спрос на тренеров для самого ИИ. В стенах Совфеда прозвучала идея создать пул наставников для машинного разума из опытных журналистов и копирайтеров. Цель — научить ИИ не врать и не навешивать аудитории на уши откровенную лапшу из «дипфейков», которые невозможно отличить от правды.
Источник: www.mk.ru