Типа чат GPT для бедных
May. 9th, 2025 06:14 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
Пробовал поговорить с моделью ИИ Aya проги LM Studio (это типа запускальщик моделей) Модель 5 гигабайт. Модель типа канадская фирмы Cohere Модель относится к типу LLAMA https://ru.wikipedia.org/wiki/LLaMA
Плюсы в том что она хорошо говорит по русски без ошибок (и ещё на многих языках). Минусы в том что данные у неё позпрошлогодние, т.е. времени когда её создавали. В основном она тебе поддакивает. Ну в общем ничего особенного. Ну попытал её куда она данные разговоров сливает или рассчитывает всё на компе. Не, сказала сливает типа у них там сервера но всё конфиденциально. При этом видеокарту она тоже юзает и проц немного, в общем непонятно. МОж она так эффективно ресурсы использует если есть у тебя то твои когда их нет лезет на сервера компании (им же тоже свои ресурсы надо экономить).
P.S. Моя визуализация модели Aya в Mage, хотел у себя промт попробовать, но лоры нормальной не нашёл, надо искать, а по умолчанию убого как-то. А в маге всегда новые классные лоры эта конкретно роботесса называется Mecha Lux

Интернет действительно в ращке прикрутили, впн хуже стал работать. Тор вроде ничего.
Плюсы в том что она хорошо говорит по русски без ошибок (и ещё на многих языках). Минусы в том что данные у неё позпрошлогодние, т.е. времени когда её создавали. В основном она тебе поддакивает. Ну в общем ничего особенного. Ну попытал её куда она данные разговоров сливает или рассчитывает всё на компе. Не, сказала сливает типа у них там сервера но всё конфиденциально. При этом видеокарту она тоже юзает и проц немного, в общем непонятно. МОж она так эффективно ресурсы использует если есть у тебя то твои когда их нет лезет на сервера компании (им же тоже свои ресурсы надо экономить).
P.S. Моя визуализация модели Aya в Mage, хотел у себя промт попробовать, но лоры нормальной не нашёл, надо искать, а по умолчанию убого как-то. А в маге всегда новые классные лоры эта конкретно роботесса называется Mecha Lux

Интернет действительно в ращке прикрутили, впн хуже стал работать. Тор вроде ничего.