feat: add summarization service for work with rest api and llm

Author: ApostolFet

content/projects/cloud-file-storage.md

@@ -30,6 +30,7 @@ weight = 6
 - Практика с Docker и Docker Compose
 - Первый проект, где студент самостоятельно разрабатывает структуру БД
 - Знакомство с NoSQL хранилищем S3 для хранения файлов, Redis для хранения сессий
+- Реализация многопользовательского приложения
 
 ## Функционал приложения
 

content/projects/task-tracker.md

@@ -20,8 +20,8 @@ weight = 7
 - [Frontend](../technologies/frontend.md) - HTML/CSS, Bootstrap, Javascript, Ajax
 - [Docker и микросервисы](../technologies/microservices.md)
   - Контейнеры, образы, volumes, написание Dockerfile, Docker Compose
-  - Брокер сообщений RabbitMQ
-  - Celery
+  - Celery + брокер сообщений RabbitMQ
+  - Брокер сообщений Kafka
 - [DevOps](../technologies/dev-ops.md)
   - Деплой
   - CI/CD, GitHub Actions
@@ -32,8 +32,10 @@ weight = 7
 - Использование новых библиотек - Celery, smtplib
 - Работа с асинхронностью
 - Практика с Docker и Docker Compose, докеризация FastAPI приложение (упаковка его в Docker образ)
-- Знакомство и практика с RabbitMQ
+- Знакомство и практика с Kafka
 - Самостоятельная разработка части схемы REST API
+- Работа с внешними API
+- Практика работы с LLM, промтинженеринг и управление контекстом
 
 ### Дисклеймер.
 
@@ -64,6 +66,7 @@ weight = 7
 
 - Приветственное письмо
 - Каждый день в полночь оповещение о том, сколько задач было сделано за прошедшие сутки, и какое количество осталось невыполненными
+- Оповещиние должно содержать краткий отчет с данными по задачам, отчет составляем с помощью LLM
 
 ## Интерфейс приложения
 
@@ -196,11 +199,7 @@ Celery worker приложение с smtplib.
 
 Celery Beat - планировщик для переодичиской рассылки писем.
 
-Задача сервиса - раз в сутки итерировать всех пользователей, и формировать для них отчёты о задачах и изменениях в них за сутки.
-
-- Пользователям, у которых на конец дня есть невыполненные задача, отправляется емейл вида "У вас осталось N несделанных задач". Тело письма содержит заголовки этих задач (не более какого-то разумного количества, например 5)
-- Пользователям, у которых за последние сутки 1 или более задач были отмечены как сделанные, отправляется емейл вида "За сегодня вы выполнили N задач". Тело письма содержит заголовки выполненных задач
-- Пользователям, для которых верны оба условия выше, отправляется емейл и со списком несделанных, и сделанных за последние сутки задач
+Задача сервиса - раз в сутки итерировать всех пользователей, и формировать для них отчёты о задачах и изменениях в них за сутки через асинхронные запросы к сервису "summarization service" и отпрвлять отчеты по email.
 
 Celery Beat Scheduler по Cron выражению каждую полночь вызывает метод, читающий список пользователей, анализирующий их заметки, и формирующий емейлы для отправки.
 
@@ -209,6 +208,30 @@ Celery Beat Scheduler по Cron выражению каждую полночь 
 RabbitMQ в контексте docker compose стека будет запущен из образа, подобно базе данных или хранилищу сессий.
 Всю работу с очередью берет на себя Celery. Поэтому в рамках работы с RebbitMQ необходимо поднять базу данных в docker, настроить и настроить брокер в приложении.
 
+## Summarization service
+Составление отчета по задачам через LLM.
+
+Необходимо написать отдельный сервис, который будет интегрироваться с LLM по API и делать суммаризацию отчеты по итогам дня.
+
+Сервис принимает собщение через кафку с данными по задачам за определенный период, полученный результат он также отправляет в кафку инициирующему сервису, реализуя паттерн RPC.
+
+Также данный сервис может иметь свой отдельный инстанс базы данных для хранения обработанных запросов и результатов.
+
+## Работа с Kafka
+
+Kafka также как и RabbitMQ необходимо будет поднять в docker compose. Взаимодествие происходит через популярные библиотеки в стеке - Aiokafka/confluent-kafka-python/FastStream. 
+Необходимо будет самостоятельно отправлять и принимать сообщения, а также обеспечить надежность и исключить повторную обработку.
+
+## Работа с LLM
+
+Предполагается напрямую интегрироваться с API LLM по HTTP, можно выбрать:
+- прямое использование [OpenAI API](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
+- прокси сервисы - [пример](https://aitunnel.ru/)
+- доступные в РФ LLM - [GigaCode](https://developers.sber.ru/docs/ru/gigachat/api/reference/rest/post-chat), [YaGPT](https://aistudio.yandex.ru/docs/ru/ai-studio/concepts/api.html)
+
+Необходимо поработать над системным промптом, предоставить желаемый формат и примеры, поработать с контекстом модели.
+Предполагается прямое использование API, не используя SDK или библиотеки для агентов. Практикуемся работать с внешним API.
+
 ## Mailjet
 
 Для отправки SMTP нужны логин, пароль, хост и порт SMTP сервера. У емейл сервисов, например Gmail, mail.ru, есть SMTP сервера, с которыми работают емейл-клиенты. Теоретически, можно воспользоваться их сервером, и отправлять письма, авторизовываясь логином и паролем своего ящика, но в реальности, для писем и рассылок обычно пользуются специальными для этого созданными сервисами, например Mailjet, Mailchimp, Mailgun (и десятками аналогичных).
@@ -233,10 +256,13 @@ RabbitMQ в контексте docker compose стека будет запуще
 - task-tracker-frontend (порт 80)
 - task-tracker-scheduler (celery beat)
 - task-tracker-email-sender (celery worker)
+- summarization-service
 - PostreSQL
 - RabbitMQ
+- Kafka
 
-Для сервисов backend, scheduler, email-sender используется общая кодовая база и поэтому может быть использован один Dockerfile. Конфигурацию и команду запуска задать в docker compose файле.
+Для сервисов backend, scheduler, email-sender используется общая кодовая база и поэтому может быть использован один Dockerfile, а вот summarization-service должен быть отделен (создаем другой Dockerfile, находится в другой директории).
+Конфигурацию и команду запуска задать в docker compose файле.
 
 ## Структура проекта
 
@@ -280,6 +306,7 @@ RabbitMQ в контексте docker compose стека будет запуще
 - Email sender - реализация задач для отправки емейлов
 - Backend - отправка приветственного письма при регистрации
 - Scheduler - отправка пользовательских отчетов по сделанным и оставшимся задачам
+- Summarization - реализация интеграции с LLM, обработка асинхроных запросов с пмощью Kafka.
 - CI/CD, деплой
 
 ## Ресурсы для работы над ошибками