Требуется помощь в установке и базовой настройке open-source ИИ-моделей на мой ПК (RTX 4090, Ryzen 9 7950X, 128 ГБ ОЗУ). Перечень работ: Установка и настройка ПО: Ollama / text-generation-webui (Oobabooga) Stable Diffusion WebUI (Automatic1111 или ComfyUI) Загрузка и тестирование моделей в формате GGUF (4-bit): Текст: CapybaraHermes-2.5-Mistral-7B + Llama3.1-8B-instruct Изображения: SDXL 1.0 + JuggernautXL Интеграция RAG (LlamaIndex/PrivateGPT) для работы с моими PDF-документами Оптимизация производительности под моё железо Требования к специалисту Опыт работы с: Локальными LLM (Llama, Mistral) Генеративными моделями (Stable Diffusion) Настройкой CUDA и ROCm (для AMD/NVIDIA) Готовность объяснять шаги в процессе работы.
