Користувачі ChatGPT масово шукають вигадані книги, що ускладнює пошук реальних джерел — журнал Scientific American.

Користувачі ChatGPT масово шукають вигадані книги, що ускладнює пошук реальних джерел — журнал Scientific American. У заяві Міжнародного комітету Червоного Хреста (МКЧХ), яку процитував журнал Scientific American (SciAm), організація попередила, що чат-боти (в основному це ChatGPT, Gemini та Copilot, але йдеться й про інші) схильні вигадувати архівні посилання та «галюцинувати», коли працюють зі списком джерел інформації. Бібліотекарі, які співпрацюють із дослідниками, підтверджують, що це правда. «Ці системи не проводять досліджень, не перевіряють джерела та не здійснюють перехресних перевірок. Вони генерують новий контент на основі статистичних закономірностей і тому можуть створювати вигадані номери каталогів, описи документів або навіть посилання на платформи, яких ніколи не існувало», — зазначає МКЧХ, що має велику бібліотеку та архів. Керівниця напряму роботи з дослідниками у Бібліотеці Вірджинії Сара Фоллз розповіла SciAm, що вигадки ШІ марнують час бібліотекарів, яких просять відшукати неіснуючі записи. За її словами, 15% запитів електронною поштою, які отримує її бібліотека, зараз згенеровані ChatGPT і містять «галюциновані» першоджерела та вигадані публікації. Співробітникам буває дуже складно довести, що унікального запису просто не існує. Інші бібліотекарі та вчені також заявляли про руйнівний вплив ШІ на їхню роботу. «Сьогодні вранці я витратила час на пошук цитат для студентки. На третій цитаті (безрезультатно) я запитала, звідки взявся список, і студентка зізналася, що це з підбірки ШІ від Google», — написала користувачка Bluesky, яка назвала себе бібліотекарем зі сфери наукових комунікацій. Компанії зі сфери ШІ приділили велику увагу створенню «розумних» моделей, які нібито здатні проводити масштабні дослідження за кількома підказками. У лютому OpenAI представила свій «агентний» інструмент для досліджень, який, за твердженням компанії, працює «на рівні аналітика». Тоді ж OpenAI заявляла, що він рідше «галюцинує», ніж інші моделі, але визнавала, що йому важко відрізнити «авторитетну інформацію від чуток». МККК попередив про цей небезпечний недолік у своїй заяві та підкреслив, що ШІ «не здатний вказати, що інформації не існує». Натомість він вигадує деталі, які здаються правдоподібними, але не мають жодного стосунку до архівних даних. «Через велику кількість створеного сміття пошук записів, про існування яких ти точно знаєш, але які непросто знайти, став набагато складнішим», — поскаржився один дослідник у Bluesky. Незважаючи на те, що галюцинації ШІ давно відомі й жодна AI-компанія не досягла значного прогресу в їхньому приборканні, технологія продовжує створювати хаос у наукових дослідженнях. Вчених і дослідників — які мали б бути максимально емпіричними та критичними — дедалі частіше ловлять на поданні робіт із вигаданими цитатами ШІ. 🚀 Підтримати 🤝 _ ✅ ✅ _ 🤝 🚀 Приєднатися до ZN.UA