Мануал Как установить полноценный аналог ChatGPT на домашний ПК

[admin]

Если последние пару лет вы хоть немного интересовались развитием технологий, то наверняка уже слышали о таком революционном инструменте на основе нейронных сетей, как ChatGPT. Инструмент вне сомнений потрясающий, ибо позволяет всего за пару кликов получить множество полезной информации на любую тему. Однако IT-гиганты не были бы сами собой, если бы не взяли столь полезный инструмент под тотальный контроль и не ограничили его итоговый функционал для широкой публики. В этой небольшой инструкции вы узнаете, как совершенно бесплатно установить на свой личный ПК полноценный аналог ChatGPT без какой-либо цензуры.

Для просмотра ссылки Войди или Зарегистрируйся

Содержание​

• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся

Минимальные требования​

• CPU: Минимум 8-поточный процессор с поддержкой AVX (Лучше AVX2). Отлично подойдут процессоры семейства AMD Ryzen 1600+.
• RAM: 8-16 Гб современной памяти стандарта DDR4/5 (Больше>лучше).
• GPU: Не требуется. Вся обработка происходит силами CPU.

Узнать характеристики своего ПК и поддержку процессором необходимых инструкций вы всегда можете с помощью бесплатной утилиты Для просмотра ссылки Войди или Зарегистрируйся.


Для просмотра ссылки Войди или ЗарегистрируйсяAVX-инструкции

Установка​

Для работы ChatGPT на домашнем ПК необходимо выполнить установку интерпретатора, чтобы компьютер понимал, как, собственно, ему работать с нейросетью, и отображал ответы в понятном человеку виде.
1. Скачачиваем программу Для просмотра ссылки Войди или Зарегистрируйся с GitHub и выполняем её установку. Если вы используете Windows, то Для просмотра ссылки Войди или Зарегистрируйся это ваш выбор.

Для просмотра ссылки Войди или Зарегистрируйся
2. Запускаем программу.
Для просмотра ссылки Войди или Зарегистрируйся
Пока перед нами всего лишь пустое окно с полем ввода и статистикой потребляемых ресурсов. Чтобы программа заработала, нам наобходимо скачать ей мозги (обученную модель нейросети).
3. Скачиваем Для просмотра ссылки Войди или Зарегистрируйся с веб-сайта Для просмотра ссылки Войди или Зарегистрируйся, где люди делятся заранее обученными моделями. Для лучшей совместимости с ПО выбирайте модели с поддержкой библиотеки llama.cpp и файлы, в название которых есть GGML. В пути до модели не должно быть русских букв! Так же имейте в виду, что чем больше у выбранной модели квантов (q2, q4, q8), то тем больше ей требуется ресурсов ПК для беспроблемной работы.
Для просмотра ссылки Войди или Зарегистрируйся
P.S. Дополнительно вы можете попробовать последнюю совершенную модель Для просмотра ссылки Войди или Зарегистрируйся. Подробней почитать о ней можно Для просмотра ссылки Войди или Зарегистрируйся. Я же только поясню, что возможности WizardLM-30B на 97,8% соответствуят возможностям ChatGPT 4. И всё это без какой-либо цензуры!
4. Открываем Alpaca-Electron и через левую вкладку Change model указывем ему путь до файла нашей модели. В моём случае это ggml-model-q41.bin.
Для просмотра ссылки Войди или Зарегистрируйся
Вот, собственно, и всё! С этого момента в ваших руках кладезь знаний всего человечества. Вы можете попросить нейросеть написать вам реферат для института, исправить ошибки в тексте статьи или поискать нужную вам информацию. В общем, всё что угодно! Выключим интернет и зададим парочку вопросов для проверки работоспособности нейросети.
Внимание!
Для этой инструкции я умышленно ограничил выбор модели. Если вы хотите использовать версию с ответами на всё и вся и без каких-либо ограничений, то воспользуйтесь Для просмотра ссылки Войди или Зарегистрируйся/Для просмотра ссылки Войди или Зарегистрируйся (Не проверены) или Для просмотра ссылки Войди или Зарегистрируйся.

Программа также принимает любые другие файлы моделей с 4-битным квантованием .bin. Если вы можете найти другие файлы моделей в формате .bin, вы можете использовать их вместо файла, рекомендованного в руководстве, чтобы экспериментировать с различными моделями. Как всегда, будьте осторожны с тем, что вы загружаете из Интернета.
Автор программы Alpaca Electron

Демонстрация​

Для просмотра ссылки Войди или Зарегистрируйся
Несмотря на то, что я забыл попросить её отвечать на Русском, она весьма точно ответила на все заданные вопросы. А если учитывать, что при этом был полностью выключен интернет, то это просто поражает!

Если не работает!​

Если модель не хочет загружаться в Alpaca Electron, то обязательно попробуйте аналогичный интерпретатор Для просмотра ссылки Войди или Зарегистрируйся. Далает всё тоже самое, но модели переваривает намного лучше!
Для просмотра ссылки Войди или Зарегистрируйся
1. Запускаем программу от имени администратора.
2. Выставляем количество потоков CPU.
3. Выбираем модель.
4. Пользуемся.

Проверенные модели​

• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся
• Для просмотра ссылки Войди или Зарегистрируйся

Заключение​

Страшно представить, какими возможностями обладает ChatGPT лишённый ограничений. Тем не менее важно помнить, что это всего лишь инструмент, и только человек решает, как и для чего его использовать. Уважайте свободу, используйте проверенное ПО и ни в коем случае не предавайте себя!
Для просмотра ссылки Войди или Зарегистрируйся
Для просмотра ссылки Войди или Зарегистрируйся