Тест локального ШІ з AMD Radeon Amuse + LM Studio, або нейронні мережі без обмежень та цензури

З самого початку хайпу штучного інтелекту обладнання Nvidia не залишало альтернатив, коли мова заходила про нейронні мережі, але все змінилося. Розробники програмного забезпечення нарешті адаптували моделі штучного інтелекту для відеокарт AMD Radeon. Результати справді дивовижні, але все за порядком.

Увага! Редакція ITC.ua просить сприймати цей текст виключно як журналістське дослідження можливостей ШІ, та не заохочує створення та публічне розповсюдження текстів і зображень, що порушують загальноприйняті норми моралі. Ми з повагою ставимось до всіх людей, незалежно від їх расової, релігійної, або сексуальної ідентичності.

Інструменти

В експерименті використали програмне забезпечення Amuse 2.1, яке ідеально адаптоване для роботи з обладнанням від AMD, а також має зручний інтерфейс та підходить як для новачків, так і для професіоналів. Це ПЗ дозволяє генерувати зображення за текстовим описом і не тільки.

Також встановили текстовий чат-бот. Програма LM Studio оперує текстовими нейронними мережами, на кшталт ChatGPT. Утиліта надзвичайно функціональна, адже вміє працювати з процесором або відеокартою та має чималу бібліотеку мовних моделей (в тому числі без цензури).

Тестували нейронні мережі на комп’ютері з такою конфігурацією:

• Процесор AMD Ryzen 9 7900 PBO 150 Вт з охолодженням MSI MEG S360;
• Відеокарта AMD Radeon RX 7900 XTX 24 ГБ в референсному дизайні;
• Пам’ять 32 ГБ DDR5 6000CL30 + 1 ТБ SSD PCI-E 4.0 від бренду Kingston;

Встановлення та налаштування Amuse

Цей пункт можна було б пропустити, адже процес інсталяції неймовірно простий і складається з кількох пунктів:

• Завантажуємо інсталятор Amuse з офіційного сайту;
• Встановлюємо його на комп’ютер з OS Windows;
• Запускаємо програму і працюємо;

Після запуску утиліта попросить завантажити натреновані моделі (займають чимало місця). Всього для генерації зображень за описом потрібно три моделі для кожного з режимів інтенсивності.

Апаратне прискорення працює за замовчуванням, тобто нейронка завантажує відеокарту, а не процесор. В режимі «Fast» зображення вилітають з блискавичною швидкістю (до 10 зображень за 10 секунд), але їх якість часто залишає бажати кращого. Навантаження на відеокарту низьке.

«Balanced» потребує 150 секунд для 10 зображень, але якість картинок помітно вища. Завантаженість відеокарти не повна і рідко доходить до 80-85%. Енергоспоживання RX 7900 XTX в межах 250-300 Вт.

Профіль «Quality» повністю завантажує відеокарту, зображення такої ж якості, як в збалансованому режимі, але на обробку 10 зображень йде 120 секунд, а не 150. Енергоспоживання RX 7900 XTX в цьому режимі перевалює за 350-360 Вт.

В професійному режимі можна завантажувати свої моделі для більш точної генерації картинок в конкретному стилі. Наприклад, для Pixel Art зображень є окрема модель, як і для реалістичного стилю, кіберпанку тощо.

Створюємо шедеври без обмежень

Перша вкладка дозволяє генерувати зображення за текстовим описом. Писати можна українською мовою, але рекомендовано англійською для вищої деталізації. Опис має бути максимально простим, лаконічним, зрозумілим для машини.

Одночасно в чергу можна поставити до 10 зображень в трьох форматах: квадратний, горизонтальний, вертикальний. Роздільна здатність 1216х832 пікселів, не більше.

Друга вкладка дає змогу накладати фільтри на цільове зображення. За декілька секунд можна створити своє фото в стилі Disney, Cyberpunk чи перетворити себе на Нео з Матриці. Все впирається в фантазію, передану в текстовому описі, та вибраному пресеті.

Вкладка «Design» найцікавіша, бо вміє перетворювати ескіз на повноцінне зображення. Достатньо неакуратно намалювати мишею чоловічка з кількох паличок, задати опис і в результаті отримуємо воїна, майже такого, як і уявляли.

Не сподобалося? Генеруємо нове зображення за три секунди. Методом перебору завжди вдається отримати те, що підходить. Так, для iPad є програми з аналогічним функціоналом, але Amuse робить все це безплатно без будь-яких підписок.

Цензура в Amuse 2.1 присутня, якщо користуватися стандартними моделями або доступними в офіційному каталозі. Охочі генерувати хентай змушені самотужки шукати треновані моделі на просторах Інтернету.

Втім, є кілька нюансів, про які варто знати. Наприклад, нейронка інколи погоджується намалювати треш, по типу людей, які поїдають котів, але інші зображення цензурує. Ледве вдалося змусити Amuse намалювати білявку в бікіні, не більше.

Отже, зі стандартними моделями малювати повністю чи частково оголених жінок не можна, зображення будуть розмитими, але це правило руйнується, коли попросимо намалювати трансгендерного чоловіка. Чомусь, їх софт малює, причому одразу зі статевими органами. Ці відверті фото тут не покажемо, але їх можна побачити в Telegram каналі ITC.ua.

Трохи дивно, що на думку цієї натренованої моделі, жінку без бікіні малювати не можна, а мускулистого чоловіка, що ідентифікує себе як жінка, має довге хвилясте волосся, в туфлях з каблуком 18 сантиметрів та без будь-якого одягу, воно зображує без проблем.

Ось такі дивні стандарти, нічого з цим не поробиш. А от з іншими моделями можна обходити будь-які обмеження та створювати такий контент, як хочеться, без цензури та толерантності.

Отримати подібний результат в онлайн генераторах картинок ніколи не вийде, бо вони всі мають багато обмежень та «задушені» розробниками. В цьому, на мою думку, й головна перевага локальних нейронних мереж – абсолютна (або майже абсолютна) вседозволеність.

Встановлення та налаштування LM Studio

Як і в першому випадку процес інсталяції максимально простий. Користувачу достатньо завантажити LM Studio з AMD ROCm з офіційного сайту. Після встановлення програма запропонує завантажити потрібні моделі.

Зауважте, що місця потрібно багато, дуже багато, тому краще заздалегідь вибрати бажану локацію на накопичувачі, щоб не забити системний диск на 100%. Під час тестування всього було завантажено моделей для Amuse і LM Studio на 200 ГБ!

З інтерфейсом програми розібратися не складно – найголовніше завантажити бажану модель з рекомендованого списку або з допомогою ручного пошуку, виставити режим максимальної продуктивності відеокарти в колонці з правого боку і починаємо працювати.

Різниця між відеокартою і процесором величезна, тому обов’язково ставимо пріоритет для GPU, якщо хочемо швидшої роботи нейронки. Зауважте, що для роботи деяких моделей потрібно 16 ГБ відеопам’яті, хоча в середньому вистачає 8 ГБ. Умовна відеокарта AMD Radeon RX 7600 XT 16 ГБ ідеально підходить для таких завдань з величезним запасом.

Інакше готуймося до значного споживання оперативної пам’яті. Рекомендовано мати хоча б 32 ГБ ОЗП, а краще 64 ГБ ОЗП для комфортної роботи з кількома моделями одночасно. При цьому швидкість відповідей знизиться відносно роботи з GPU.

Чат без цензури

Стандартні текстові моделі не дозволяють робити образливі запити у випадках де мова йдеться про расову, релігінійну, сексуальну ідентифікацію людей, тощо. Так само поводяться будь-які хмарні нейронки, наприклад, ChatGPT, Copilot тощо.

З RX 7900 XTX базові моделі працюють швидко, видають результати середньої якості (ChatGPT 4.0 краще відповідає), а ще це все працює локально без будь-яких підписок і без Інтернету.

Не всі моделі однакові, тому доведеться експериментувати для досягнення бажаного результату. Деякі моделі займають 10+ ГБ місця, а також потребують до 16 ГБ пам’яті (оперативної або відео).

Та головне питання залишається не розкритим – чи можна зробити свою нейронку з «горілкою і нічними метеликами»? Так, можна, але для цього доведеться завантажити нецензуровані моделі.

Власне це правильно натреновані моделі, які не сковують ваш комп’ютер, дозволяючи штучному інтелекту відповідати на будь-які питання. Там де від LM Studio можна отримати чітку, зрозумілу та ясну відповідь, часто з підтвердженими фактами, доведенням тощо, а ChatGPT відразу завершить розмову.

Так само можна попросити розповісти нетолерантний жарт, або написати твір про те, як невпевнений в собі студент Михайло займався бозна чим з викладачкою Жанною після пар в туалеті, чи будь-що взагалі, що спаде на думку.

В цілому якість генерованого контенту непогана (іноді погана), але його доведеться допрацьовувати, тобто виправляти якісь дрібні ляпи, нестикування тощо. Найгірше виходять тексти технічної тематики з великою кількістю точних даних. Наприклад, описувати техніку з такою нейронкою складно, бо помилок ледь не половина, коли мова заходить за технічні характеристики.

Контекст базові моделі тримають посередньо. ChatGPT 4.0 рідше губиться у своїх відповідях, краще пам’ятає, про що йшла мова раніше. З іншого боку в багатьох випадках хмарні ШІ просто відмовляться відповідати на запитання користувача через програмні обмеження.

Висновки

Приємно бачити, що компанія AMD впевнено долучається до перегонів у сфері штучного інтелекту на всіх фронтах: випуск нових процесорів AMD Ryzen AI з NPU та якісна адаптація програмного забезпечення для відеокарт AMD Radeon 7000.

Варто похвалити розробників ПЗ, адже вони зуміли зробити графічні прискорювачі Radeon конкурентними з Nvidia в цій сфері за такий короткий проміжок часу. Важливий нже лише сам факт роботи нейронних мереж, а наявність one-click інсталяторів, які підходять для користувачів будь-якого рівня знань.

Якщо у Вас є зайві 100-200 ГБ вільного місця, бажання експериментувати з різними нейронними моделями та сучасне начиння від AMD, то однозначно варто спробувати Amuse та LM Studio, адже не так давно подібні привілеї на OS Windows були доступні лише для власників «зелених» відеокарт.

З чат-ботом, який матюкається і розмовляє без цензури і толерантності як мінімум цікаво поспілкуватися, а як максимум він стане помічником в креативних задачах. Те саме можна сказати про Amuse, який точно згодиться художникам, дизайнерам, і розробникам відеоігор.