Потреба швидко і якісно отримувати відповіді від ШІ стала нагальною. За даними McKinsey, 2024-й — рік, коли компанії почали реально використовувати генеративний ШІ для свого розвитку.
Деякі організації, зокрема, Бостонська дитяча лікарня, наймали prompt-інженерів ще 2023 року. На біржі для фрілансерів Upwork є понад 60 пропозицій роботи, повʼязаної з prompt engineering. Разом з експертами в ШІ розібрались, чи став prompt engineering повноцінною професією та які навички потрібні на цій позиції.
Що таке prompt engineering
Prompt engineering — це формулювання промптів (інструкцій та запитань) для генеративних ШІ-моделей з метою отримати від них бажану відповідь. Такий собі міст, що дозволяє машинному та людському інтелектам «спілкуватись». Від промпту залежить, як відповість на ваш запит ChatGPT та який малюнок створить Midjourney.
Але Prompt Engineering не обмежується написанням команд для ChatGPT. Він може включати й промпти для API GPT4. Саме робота з API дозволяє використати потенціал автоматизації LLM.
Структура промптів
Роль (у якому стилі має бути відповідь моделі. Наприклад, «Склади стратегію кіберзахисту як спеціаліст із кібербезпеки» або «Напиши текст так, наче його пише науковець»).
Інструкції (як модель має виконати завдання).
Вимоги (яким ми хочемо бачити результат, які варіанти нам не підходять тощо).
Завдання (що і для чого має зробити модель).
«Модель непередбачувана: ми можемо на неї вплинути через промпт, але не можемо знати на 100%, який результат отримаємо. Чим складніше задача, тим важче спрогнозувати результат. Буває, ти робиш усі best practices: і промпт в тебе крутий, і техніки застосував, і приклади класні зробив, а результат — зовсім не той, що треба.
Тоді доводиться переписувати промпт, шукати інше рішення, можливо, змінювати модель. Це може бути нетривіальним завданням», — поділився досвідом Поль Вахтель, CEO & Founder CostCare.ai, експерт в ШІ та Prompt Engineering.
Чим ретельніше ви пропишете промпт, тим більш індивідуалізованою буде відповідь алгоритмів. Окрім цього, ваші запити допомагають ШІ навчатись — чим більш коректні й зрозумілі дані він отримає на вході, тим краще розумітиме людську мову і робитиме менше контекстних помилок.
Prompt Engineer: окрема посада чи додаткова навичка — думки експертів
Створення запитів для ШІ здається нескладним, але майбутній скоуп завдань промпт-інженерів поки важко осягнути. Ми спитали експертів, чи вже потрібні промпт-інженери на ринку та хто може ними стати.
«Не важливо, звідки ви прийшли, стартувати можна з будь-якої позиції. Є очікування, що людям із технічним бекграундом буде легше, адже вони мають краще розуміти, як моделі влаштовані. Втім, це не обовʼязково. Знайти промпт-інженерів наразі нелегко, але й попиту на них теж не багато. Варто сфокусуватись не на тому, щоби бути винятково промпт-інженером, а на тому, щоби розуміти, як у вашій професії можна використовувати генеративний ШІ», — каже Вероніка Тамайо-Флорес, Product Manager of AI Products в Ajax Systems. Вона не вірить, що prompt engineering здатний вирости в окрему галузь — скоріше він стане must have для багатьох професій.
«Зараз я бачу найбільший результат від людей, які використовують промпт-інжиніринг як додаткову компетенцію. В такому сценарії знання промпт-інжинірингу дуже сильно підвищує цінність людини. Але я допускаю, що коли запит на створення промптів буде рости, ми будемо наймати людей, які будуть сфокусовані винятково на цьому», — додає Поль Вахтель. Поль зауважує, що вже бачив вакансію prompt-інженера на українському рекрутинговому сервісі Baza IT.
Навички та виклики prompt-інженерів
Щоб ефективно працювати у напрямі Prompt Engineering, ви маєте:
Вивчити основи мови Python (синтаксис, бібліотеки NumPy та Pandas), дослідити NLP-бібліотеки й отримати практичні навички з кодування.
Отримати базові знання зі ШІ. Наприклад, пройти онлайн-курс чи подивитись туторіали на YouTube.
Практикуватись із попередньо навченими моделями на кшталт BERT та GPT-3 — як вони реагують на ваші запити, у чому помиляються тощо.
Тренуватись налаштовувати такі моделі для конкретних завдань. Наприклад, пройдіть курс з файнтюнінгу мовних моделей.
Стати частиною ШІ-спільноти: ходіть на тематичні івенти, спілкуйтесь з колегами онлайн.
«Щоби робити ефективні промпти, потрібно:
мати фундаментальні знання про Prompt Engineering (різні техніки, компоненти промпта тощо);
розуміти, як працюють LLMs та генеративний ШІ. Інколи достатньо змінити одне слово або фразу та покращити якість відповіді від моделі, а інколи ти можеш змінити значення гіперпараметра і досягти необхідного результату;
вміти комунікувати. Результат від моделі ми отримуємо через комунікацію з нею. Від того, наскільки добре та структуровано ти передав думку моделі, може залежати якість її відповіді.
Також необхідно бути допитливим і гнучким: у сфері відбуваються постійні зміни, і треба постійно вчити нове. Те, що працює гарно з поточними моделями, може перестати працювати завтра з іншими», — підкреслює Поль Вахтель.
За думкою Вероніки Тамайо-Флорес, головний виклик — вміти сформувати завдання для моделі: мало хто може впоратись з цим. Також потрібно терпіння — необхідно багато спроб та різних підходів. Критичне мислення допоможе вам відділити правдиву інформацію від «галюцинацій» моделі — некоректної інформації, наданої без злого умислу.
Чи є майбутнє у Prompt Engineering
Природно, що поки щодо перспектив Prompt Engineering не існує консенсусу у ком’юніті. У березні 2024 року IEEE Spectrum випустив статтю з гучним заголовком «ШІ Prompt Engineering помер». В матеріалі йдеться про те, що Intel Labs навчили велику мовну модель (LLM) створювати підказки для генерації зображень ефективніше за людей.
Проте Васудев Лал, Principal AI research scientist в Intel Labs, вважає, що характер взаємодії людини з мовними моделями продовжить трансформуватись разом із ними. Відповідно, Prompt Engineering може отримати іншу назву і специфіку. Тім Крамер, Senior VP з розробки у компанії Red Hat, впевнений, що адаптація генеративного ШІ потребуватиме людської участі у майбутньому.
Огуз А. Акар, керівник кафедри маркетингу у Королівському коледжі Лондона, пише, що популярність Prompt Engineering може бути швидкоплинною, і серед причин — якраз стрімкий прогрес ШІ у розумінні природної мови й створенні промптів самостійно.
За думкою Акара, надмірна увага до вдалого поєднання слів у промптах може стати контрпродуктивною. Натомість люди мають сфокусуватись на детальному формулюванні проблем.