Bias

Штучний інтелект може бути упередженим (biased). Наприклад, він часто надто орієнтується на перший промпт, який може містити упередження (anchoring bias) або надає перевагу тим варіантам, які бачив частіше, ігноруючи менш поширені, але цілком логічні відповіді (exposure bias). Через це модель може видавати загальні або однобокі результати, якщо ми чітко не вкажемо, що саме хочемо отримати.

Наприклад, якщо на самому початку вказати, що ти шукаєш «кращого письменника всіх часів», GenAI може одразу запропонувати Вільяма Шекспіра, не розглядаючи інших варіантів — це anchoring bias, коли перше запитання впливає на подальші відповіді. А якщо ти просиш поради щодо фільмів, модель часто запропонує популярні стрічки, як-от Inception або Titanic, оскільки вони зустрічаються у тренувальних даних дуже часто — це exposure bias, коли часто згадувані варіанти заміщають менш відомі, але не менш цінні альтернативи.

GenAI також схильний до selection bias — систематичної помилки вибірки. Модель, навчена переважно на західній літературі, може генерувати відповіді, що відображають західні погляди, ігноруючи інші перспективи (і навпаки). Наприклад, генеративні моделі можуть асоціювати певні професії з конкретною статтю чи етнічною групою, а системи рекомендацій для працевлаштування можуть пропонувати керівні посади чоловікам через історичні дані про найм на роботу.

Моделі, що використовуються у програмному забезпеченні для розпізнавання облич, можуть мати труднощі з точною ідентифікацією осіб з недостатньо представлених етнічних груп. Це може потенційно призвести до помилок і несправедливого ставлення. Подивімось, як це працює на практиці.