Тест локального ИИ с AMD Radeon Amuse + LM Studio, или нейронные сети без ограничений и цензуры

С самого начала хайпа искусственного интеллекта оборудование Nvidia не оставляло альтернатив, когда речь заходила о нейронных сетях, но все изменилось. Разработчики программного обеспечения наконец адаптировали модели искусственного интеллекта для видеокарт AMD Radeon. Результаты действительно удивительные, но все по порядку.

Внимание! Редакция ITC.ua просит воспринимать этот текст исключительно как журналистское исследование возможностей ИИ, и не поощряет создание и публичное распространение текстов и изображений, нарушающих общепринятые нормы морали. Мы с уважением относимся ко всем людям, независимо от их расовой, религиозной или сексуальной идентичности.

Инструменты

В эксперименте использовали программное обеспечение Amuse 2.1которое идеально адаптировано для работы с оборудованием от AMD, а также имеет удобный интерфейс и подходит как для новичков, так и для профессионалов. Это ПО позволяет генерировать изображения по текстовому описанию и не только.

Также установили текстовый чат-бот. Программа LM Studio оперирует текстовыми нейронными сетями, вроде ChatGPT. Утилита чрезвычайно функциональна, ведь умеет работать с процессором или видеокартой и имеет большую библиотеку языковых моделей (в том числе без цензуры).

Тестировали нейронные сети на компьютере с такой конфигурацией:

• Процессор AMD Ryzen 9 7900 PBO 150 Вт с охлаждением MSI MEG S360;
• Видеокарта AMD Radeon RX 7900 XTX 24 ГБ в референсном дизайне;
• Память 32 ГБ DDR5 6000CL30 + 1 ТБ SSD PCI-E 4.0 от бренда Kingston;

Установка и настройка Amuse и настройка Amuse

Этот пункт можно было бы пропустить, ведь процесс установки невероятно прост и состоит из нескольких пунктов:

• Загружаем инсталлятор Amuse с официального сайта;
• Устанавливаем его на компьютер с OS Windows;
• Запускаем программу и работаем;

После запуска утилита попросит загрузить натренированные модели (занимают немало места). Всего для генерации изображений по описанию нужно три модели для каждого из режимов интенсивности.

Аппаратное ускорение работает по умолчанию, то есть нейронка загружает видеокарту, а не процессор. В режиме «Fast» изображения вылетают с молниеносной скоростью (до 10 изображений за 10 секунд), но их качество часто оставляет желать лучшего. Нагрузка на видеокарту низкая.

«Balanced» требует 150 секунд для 10 изображений, но качество картинок заметно выше. Загруженность видеокарты не полная и редко доходит до 80-85%. Энергопотребление RX 7900 XTX в пределах 250-300 Вт.

Профиль «Quality» полностью загружает видеокарту, изображение такого же качества, как в сбалансированном режиме, но на обработку 10 изображений уходит 120 секунд, а не 150. Энергопотребление RX 7900 XTX в этом режиме переваливает за 350-360 Вт.

В профессиональном режиме можно загружать свои модели для более точной генерации картинок в конкретном стиле. Например, для Pixel Art изображений есть отдельная модель, как и для реалистичного стиля, киберпанка и т.д.

Создаем шедевры без ограничений

Первая вкладка позволяет генерировать изображения по текстовому описанию. Писать можно на украинском языке, но рекомендуется на английском для высшей детализации. Описание должно быть максимально простым, лаконичным, понятным для машины.

Одновременно в очередь можно поставить до 10 изображений в трех форматах: квадратный, горизонтальный, вертикальный. Разрешение 1216х832 пикселей, не более.

Вторая вкладка позволяет накладывать фильтры на целевое изображение. За несколько секунд можно создать свое фото в стиле Disney, Cyberpunk или превратить себя в Нео из Матрицы. Все упирается в фантазию, переданную в текстовом описании, и выбранном пресете.

Вкладка «Design» самая интересная, потому что умеет превращать эскиз в полноценное изображение. Достаточно неаккуратно нарисовать мышью человечка из нескольких палочек, задать описание и в результате получаем воина, почти такого, как и представляли.

Не понравилось? Генерируем новое изображение за три секунды. Методом перебора всегда удается получить то, что подходит. Да, для iPad есть программы с аналогичным функционалом, но Amuse делает все это бесплатно без каких-либо подписок.

Цензура в Amuse 2.1 присутствует, если пользоваться стандартными моделями или доступными в официальном каталоге. Желающие генерировать хентай вынуждены самостоятельно искать тренированные модели на просторах Интернета.

Впрочем, есть несколько нюансов, о которых стоит знать. Например, нейронка иногда соглашается нарисовать трэш, по типу людей, которые едят кошек, но другие изображения цензурирует. Еле удалось заставить Amuse нарисовать блондинку в бикини, не более.

Итак, со стандартными моделями рисовать полностью или частично обнаженных женщин нельзя, изображения будут размытыми, но это правило разрушается, когда попросим нарисовать трансгендерного мужчину. Почему-то, их софт рисует, причем сразу со половыми органами. Эти откровенные фото здесь не покажем, но их можно увидеть в Telegram канале ITC.ua.

Немного странно, что по мнению этой натренированной модели, женщину без бикини рисовать нельзя, а мускулистого мужчину, идентифицирующего себя как женщина, имеющего длинные волнистые волосы, в туфлях с каблуком 18 сантиметров и без какой-либо одежды, оно изображает без проблем.

Вот такие странные стандарты, ничего с этим не поделаешь. А вот с другими моделями можно обходить любые ограничения и создавать такой контент, как хочется, без цензуры и толерантности.

Получить подобный результат в онлайн генераторах картинок никогда не получится потому что все они имеют много ограничений и «задушены» разработчиками. В этом, по моему мнению, и главное преимущество локальных нейронных сетей – абсолютная (или почти абсолютная) всеразрешенность.

Установка и настройка LM Studio и ее настройка

Как и в первом случае процесс инсталляции максимально прост. Пользователю достаточно загрузить LM Studio с AMD ROCm с официального сайта. После установки программа предложит загрузить нужные модели.

Заметьте, что места нужно много, очень много, поэтому лучше заранее выбрать желаемую локацию на накопителе, чтобы не забить системный диск на 100%. Во время тестирования всего было загружено моделей для Amuse и LM Studio на 200 ГБ!

С интерфейсом программы разобраться не сложно — самое главное загрузить желаемую модель из рекомендованного списка или с помощью ручного поиска, выставить режим максимальной производительности видеокарты в колонке с правой стороны и начинаем работать.

Разница между видеокартой и процессором огромная, поэтому обязательно ставим приоритет для GPU, если хотим более быстрой работы нейронки. Заметьте, что для работы некоторых моделей требуется 16 ГБ видеопамяти, хотя в среднем хватает 8 ГБ. Условная видеокарта AMD Radeon RX 7600 XT 16 ГБ идеально подходит для таких задач с огромным запасом.

Иначе готовимся к значительному потреблению оперативной памяти. Рекомендовано иметь хотя бы 32 ГБ ОЗУ, а лучше 64 ГБ ОЗУ для комфортной работы с несколькими моделями одновременно. При этом скорость ответов снизится относительно работы с GPU.

Чат без цензуры

Стандартные текстовые модели не позволяют делать оскорбительные запросы в случаях, где речь идет о расовой, религиозной, сексуальной идентификации людей и тому подобное. Так же ведут себя любые облачные нейронки, например, ChatGPT, Copilot и тому подобное.

С RX 7900 XTX базовые модели работают быстро, выдают результаты среднего качества (ChatGPT 4.0 лучше пишет), а еще это все работает локально без каких-либо подписок и без Интернета.

Не все модели одинаковы, поэтому придется экспериментировать для достижения желаемого результата. Некоторые модели занимают 10+ ГБ места, а также требуют до 16 ГБ памяти (оперативной или видео).

Но главный вопрос остается не раскрытым – можно ли сделать свою нейронку с «водкой и ночными бабочками»? Да, можно, но для этого придется загрузить нецензурированные модели.

Собственно это правильно натренированные модели, которые не сковывают ваш компьютер, позволяя искусственному интеллекту отвечать на любые вопросы. Там, где от LM Studio можно получить четкий, понятный и ясный ответ, часто с подтвержденными фактами, доказательствами и т.д., ChatGPT сразу завершит разговор.

Так же можно попросить рассказать нетолерантную шутку, или написать сочинение о том, как неуверенный в себе студент Михаил занимался неизвестно чем с преподавательницей Жанной после пар в туалете, или что угодно вообще, что придет в голову.

В целом качество генерируемого контента неплохое (иногда плохое), но его придется дорабатывать, то есть исправлять какие-то мелкие ляпы, несостыковки и тому подобное. Хуже всего получаются тексты технической тематики с большим количеством точных данных. Например, описывать технику с такой нейронкой сложно, потому что ошибок чуть ли не половинакогда речь заходит о технических характеристиках.

Контекст базовые модели держат посредственно. ChatGPT 4.0 реже теряется в своих ответах, лучше помнит, о чем шла речь ранее. С другой стороны во многих случаях во многих случаях облачные ИИ просто откажутся отвечать на вопросы пользователя из-за программных ограничений.

Выводы

Приятно видеть, что компания AMD уверенно присоединяется к гонке в сфере искусственного интеллекта на всех фронтах: выпуск новых процессоров AMD Ryzen AI с NPU и качественная адаптация программного обеспечения для видеокарт AMD Radeon 7000.

Стоит похвалить разработчиков ПО, ведь они сумели сделать графические ускорители Radeon конкурентными с Nvidia в этой сфере за такой короткий промежуток времени. Важен не только сам факт работы нейронных сетей, а наличие one-click инсталляторов, которые подходят для пользователей любого уровня знаний.

Если у Вас есть лишние 100-200 ГБ свободного места, желание экспериментировать с различными нейронными моделями и современная начинка от AMD, то однозначно стоит попробовать Amuse и LM Studio, ведь не так давно подобные привилегии на OS Windows были доступны только для владельцев «зеленых» видеокарт.

С чат-ботом, который матерится и разговаривает без цензуры и толерантности как минимум интересно пообщаться, а как максимум он станет помощником в креативных задачах. То же самое можно сказать об Amuse, который точно пригодится художникам, дизайнерам, и разработчикам видеоигр.