ИИ-ассистент, который живет и учится на 2 ГБ оперативки

My_ai_assistant

AI-ассистент нового поколения. Не просто чат-бот, а полноценный ИИ помощник, который работает даже при обрыве основного ИИ-провайдера. Который умеет хранить тайну, поэтому шифрует каждое сообщение. Понимает вашу учётную систему. И всё это — на сервере за 1000 рублей в месяц.


Процесс разработки и исследования публикуются под хештегом #AI 


Зачем я начал делать свой AI-ассистент?


Все начиналось прозаично – мне в работе нужно было нечто вроде секретаря, который бы жил в моем компьютере и телефоне, помогал мне искать информацию, делать заметки, вести мой список дел, которые я обычно забывал и кидать мессенджи коллегам. В общем, с этого и начался этот проект. Эдакий простой чат-бот и органайзер с мессенджером в одном флаконе.

Позже, при общении с коллегами, пришло понимание, что нужен не банальный чат-бот, а полноценный цифровой сотрудник-помощник, который можно применять в бизнесе. Тот, кто помнит контекст, работает с документами, ведёт календарь, общается с коллегами в защищённом мессенджере и отвечает на вопросы по данным из 1С.

Чаты ИИ (например chatGPT или чат deepseek) — да, они мега-крутые, но они не могут делать всего того, что мне нужно. Корпоративные мессенджеры — это просто чаты. Разные CRM — они могут просматривать за моей 1С  - но опять же это база данных с формами.

Поэтому я собрал всё в одном месте. И поместил на недорогой VPS сервер с 2 ГБ оперативной памяти - на большее жаба не подписала)


Из чего состоит мой AI-ассистент?


  • 💬 Мульти-ИИ диалог - пул современных языковых моделей. При отказе одной — автоматически включается следующая. Пользователь не замечает переключения
  • 🔐 Защищённый мессенджер - каждое сообщение шифруется на устройстве отправителя. Сервер не может прочитать переписку
  • 📅 Секретарь-календарь - оздаёт, переносит, отменяет события. Предупреждает о накладках по времени. Понимает «послезавтра в 3 часа»
  • 📄 Умные документы  - можно загрузить PDF, договор, скан — и получить краткое содержание, дальше продолжать диалог с ИИ по этому документу. Без отправки в облако
  • 🏭 1С Коннектор  - спрашиваю «остатки товара», «долг Иванова», «продажи за март» — получаю ответ из учётной системы
  • 🌐 Мульти-поиск    - ИИ помощник ищет в интернете через несколько независимых источников. Если первый не дал результата — пробует следующий
  • 🧠 Адаптивное качество  - система автоматически улучшает ответы, накапливая и в дальнейшем используя успешный опыт. Она обучается
  • 📱 Работа на EDGE  - оптимизировал протокол. Сообщения доходят за доли секунды даже на 56 кбит/с



Архитектура AI ассистента — никакой магии


Архитектура AI-ассистента 


Три уровня шифрования:

Шифрование в AI-ассистенте
Что это значит на практике: Все сообщения шифруются на устройстве отправителя и остаются зашифрованными при хранении на сервере. Ключ шифрования известен только участникам диалога. Данные защищены как при передаче, так и в случае компрометации сервера.

Защита от атак:

Защита проекта ИИ


Роутинг ИИ — что это и зачем:

Роутинг и резервирование AI-провайдеров

Каждый тип задачи (чат, документы, календарь, система) имеет свою цепочку провайдеров. Если основная модель недоступна — включается резервная. Если и она не отвечает — третья.


Коннекторы для внешних источников:

Коннектор 1С для ИИ-ассистента 

 

Ключевой принцип: мост может только читать данные. Ни одной записи в 1С изменить нельзя. Даже если ИИ ошибётся — учёт останется нетронутым.


Обработка документов:

 Обработка документов AI-ассистентом

 

Обработка происходит локально. Документы не отправляются в облачные сервисы.



Масштабы системы

 Параметр Значение
 Строк кода 15 000+
 Таблиц в БД  35+
 Моделей ИИ Пул независимых LLM с авто-роутингом
 Поисковых систем Несколько провайдеров для надёжности
 API-эндпоинтов 100+
 СерверVPS Debian, 2 ГБ RAM, 1CPU
 База данных SQLite WAL
 Стоимость хостинга ~1000 ₽/мес


Какие еще работы предстоят?

 Сейчас планирую начать работы над:

  • 📱 Мобильным приложением
  • 🎤 Голосовым управлением — спросил голосом, получил ответ
  • 🔌 Интеграциями: подключение к IoT, почте, Telegram, умному дому

Правда не знаю вывезу ли! Особенно про мобильное приложение - опыта разработки в этом направлении нет совсем!


Статьи из процесса создания ИИ-ассистента

буду размещать по мере внедрения и наличия свободного времени

  1. Вообще история создания с самого начала
  2. Система МНЕМОС - эволюционирующая память.
  3. STM + МНЕМОС - быстрая память совместно с эволюционирующей в едином комплексе
  4. Замкнутый цикл самообучения AI-ассистента
  5. Модуль Математикус - когда нужен точный расчет
  6. Интуитивный контур - дадим помощнику интуицию)
Все посты будут под хештегом #AI