Limitations of GenAI

Під час використання GenAI ти, ймовірно, вже помітив(-ла), що іноді вони «забувають» інструкції або надають неточну інформацію. Розуміючи причини цих обмежень, ти зможеш використовувати AI більш ефективно і розробити стратегії роботи з цими недоліками.

Hallucinations

Бачив(-ла) зображення людей з шістьма пальцями на руках? Чому GenAI створює такі картинки?

Ти вже знаєш, що GenAI створюють контент, спираючись на шаблони, вивчені з навчальних даних. Однак, на відміну від комп’ютера, який просто відтворює збережену інформацію, ці моделі не «згадують» факти у звичному сенсі. Вони поєднують елементи раніше вивчених шаблонів, щоб сформувати нові відповіді. Через це іноді вони видають правдоподібну, але хибну інформацію — її називають галюцинаціями.

Принцип роботи GenAI схожий на те, як формуються сни. Коли ми спимо, наш мозок не відтворює точні спогади. Він змішує фрагменти нашого досвіду і знань, створюючи сценарії, які здаються реалістичними, але можуть містити фантастичні елементи. Так само як сни не можуть містити досвід, якого ти ніколи не мав(-ла), генеративний ШІ не здатен точно відтворювати результати, яких не було належно представлено в його навчальних даних. Він також не вміє розпізнавати, коли інформації бракує.

Ти коли-небудь пробував(-ла) читати книгу або перевіряти час уві сні? Текст може виглядати спотвореним, а годинник показувати неможливий або безглуздий час. Так само і GenAI може видавати реалістичні, але помилкові результати:

• Історії або інформацію про факти, документи, які не існують в реальності.
• Спотворені зображення з незвичними анатомічними особливостями (наприклад, сумнозвісні шість пальців).

При цьому GenAI не може відтворити деякі предмети, наприклад, годинник, який показує певний час, або порожній келих з-під вина.

💡 Оскільки моделі постійно оновлюються, ці проблеми (особливо ті, що привертають найбільшу увагу) з часом скоріше за усе будуть виправлені. Однак пам'ятай, що подібні помилки можуть траплятися.