theory

Generative Models

Generative Models

Generative models (генеративні моделі) вивчають, як часто трапляються різні елементи в навчальних даних (тобто вивчають розподіл імовірностей), а потім використовують ці знання, щоб створювати (згенерувати) новий текст, зображення чи інший контент, схожий на те, що вони бачили раніше.

Це означає, що генеративна модель ШІ, навчена на зображеннях вишень, не буде класифікувати нове зображення як стигле чи нестигле, а зможе створювати абсолютно нові зображення вишень, схожі на ті, що є в навчальних даних.

Водночас, якщо жирафа не була частиною цих даних, модель не зможе згенерувати її зображення. Однак, якщо модель вивчила достатньо схожих ознак, вона може спробувати згенерувати жирафу, навіть якщо результати можуть бути неточними або недостатньо детальними.

Генеративні моделі ШІ зазвичай навчаються на широких і різноманітних наборах даних, щоб забезпечити широкий спектр результатів, навіть для рідкісних об'єктів. Такі моделі зазвичай застосовують для генерації зображень у різних візуальних стилях за допомогою інструментів на кшталт DALL-E, Midjourney або Stable Diffusion, створення тексту — як у випадку з GPT-4 чи Claude, написання музики — за допомогою MusicLM, або синтезу голосу — за допомогою інструментів на зразок VALL-E.

Надалі у курсі ми будемо використовувати термін GenAI для позначення генеративних моделей штучного інтелекту.