VoiceRecord_Result/conversations/beseda-20260807-1326.txt

240 lines
18 KiB
Plaintext
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# Беседа: beseda-20260807-1326.txt
# файлов: 4; начало: 2026-08-07 13:26; конец: ~2026-08-07 13:44
## 2026-08-07/rec_20260807_132635.m4a (старт 13:26:35)
[00:00:00] А ты пробовал засовывать это в OT5, то что у тебя получилось, или это пока с картинкой застрял?
[00:00:07] Нет, ну я же сделал импорт уже в базу знаний.
[00:00:12] И в приложухе она показывается?
[00:00:16] В приложухе, а я не знаю куда эта класть, но я сейчас придет. Максим, я спрошу куда мы попробовать.
[00:00:22] И импорт ты сделал, или экспорт?
[00:00:24] Я сделал экспорт из НАП.
[00:00:29] Хорошо, но когда ты ездишь в экспорт, называешь импортом, звучит как-то непонятно.
[00:00:33] Сделал экспорт.
[00:00:36] Если нужно взять разработчиков любого запугывания, в частности Максима, скорее всего.
[00:00:43] Просто открой приложение OT5, зайди в раздел базы знаний.
[00:00:48] И там у тебя будет кнопка и импорт.
[00:00:50] Хорошо.
[00:00:54] И ты можешь прямо себе, то есть первое, ты можешь себе локально это засунуть.
[00:00:58] И это надо проверить.
[00:01:00] То есть в базу знаний на машине.
[00:01:03] А второе, это можно засунуть лобально, через админку, которую сделал Дению.
[00:01:12] Хорошо, ну что я сделал?
[00:01:14] Когда нет никого.
[00:01:18] Так, ну ладно, давай прорак.
[00:01:20] Что там в итоге тебе на это?
[00:01:23] Что ты там исследовал?
[00:01:24] В итоге там есть три элемента.
[00:01:28] Первое, надо решить, как будем хранить векторные.
[00:01:32] Второе, надо решить, какой библиотекой мы будем, грубо говоря, на чанке резать.
[00:01:38] Потому что там есть тоже всякий разный выбор.
[00:01:42] И плюс еще можно там всякие разные технологии, не только на чанке порезать.
[00:01:46] Можно еще порезанные чанки между собой в сеть построить,
[00:01:50] чтобы можно было от одного чанка перейти к другому без слов.
[00:01:55] Соответственно, есть какие-то еще элементы предварительного обработки твоего запроса,
[00:02:02] который первичный сделал.
[00:02:04] Удаление всяких символов управляющих, там еще что-то.
[00:02:09] То есть там, ну, технология проста, да.
[00:02:13] То есть ты технически, ты задаешь запрос,
[00:02:21] по нему ищутся чанки, чанки передаются модели какой-то,
[00:02:25] локальной или глобальной.
[00:02:27] И она, и она, и она вот...
[00:02:29] По запросу делается вектор наверх.
[00:02:31] Ну да, ну, по запросу делается вектор найденных чанков,
[00:02:35] и эти чанки передаются...
[00:02:37] Не найденных чанков.
[00:02:39] А как ты ищешь без векторизации запроса в векторах чанк?
[00:02:45] Ну, хорошо, пропустил.
[00:02:47] То есть твой запрос...
[00:02:49] По твоему запросу создаются векторопоиска,
[00:02:53] поэтому векторопоиска ищутся векторах, нарезанных чанков.
[00:02:57] И это потом передается модели, которая уже изнайдена во всего
[00:03:02] и заново отправленным запросом, в той же форме,
[00:03:06] или как-то измененной, там, зависимостей.
[00:03:08] Это теория, да.
[00:03:10] На практике, на практике, соответственно, надо...
[00:03:15] Ну, я думаю, мы будем брать пасгресс, плюс там до него
[00:03:19] к нему дополнение определенное, и...
[00:03:23] Единственное, что я пока не понимаю,
[00:03:28] ну, просто я пока не встретил, как это делается,
[00:03:34] получается, что должен какой-то крон висеть,
[00:03:37] который будет у тебя каким-то способом,
[00:03:40] твои документы засоловать в базу векторов.
[00:03:45] Мы же обрабатываем документы сейчас.
[00:03:49] Требу не описывали.
[00:03:51] Слайды генерировали.
[00:03:53] Чем это отличается от создания векторов?
[00:03:56] Ну, чем?
[00:03:57] Чем?
[00:03:58] Большаю внимания.
[00:03:59] Давайте я рассказывал сейчас про разные.
[00:04:01] Смотри, сейчас слайды...
[00:04:03] Господи, слайды.
[00:04:04] Навыки, начиная с навыка...
[00:04:09] Какого мы переписывали?
[00:04:12] На экстракт 3, сначала первым пошел.
[00:04:16] Второй навык.
## 2026-08-07/rec_20260807_133136.m4a (старт 13:31:36)
[00:00:11] — Алло, алло. — Да.
[00:00:13] — Алло. — Да, здесь.
[00:00:15] — Ну вот, короче, что в итоге...
[00:00:18] Ну, то есть нам как-то что-то мы делали, какую-то большую задачу.
[00:00:21] И нам GLM переписал, то есть и делал, я ее из терминала Client.
[00:00:26] И он нам переписал навык один.
[00:00:29] Сувагентов на...
[00:00:33] Что-то я так понимаю, на работу с потоками.
[00:00:36] То есть сделал многопоточенную работу.
[00:00:39] Вот. То есть в итоге получается как?
[00:00:42] Он создает потоки, а потом мониторит из этих потоков выход.
[00:00:49] Что они пишут на этот самый...
[00:00:53] На диск, там, ну и так далее.
[00:00:55] В том числе иногда прибивает их, там, ну и так далее.
[00:00:59] — Понимаешь, да? — Угу.
[00:01:01] То есть в итоге получается, что сувагенты,
[00:01:05] эта технология, которая позволяет с этой байде
[00:01:09] работать внутри агентов, да?
[00:01:13] То есть у тебя запуск сувагента звучит,
[00:01:17] как, грубо говоря, ну, например, клона или Client.
[00:01:23] То есть у тебя Client, и потом ты даешь, там, допустим,
[00:01:27] промти такое-то. Вот так звучит.
[00:01:30] Звучит с командной строки запуск сувагента.
[00:01:33] А запуск потоков, понятное дело, звучит не так.
[00:01:37] Ну, грубо говоря, там XS-ник или Python, там, чего-то какой-то скрипт.
[00:01:42] Вот. И вот это, по сути, сейчас уже три таких навыка.
[00:01:47] То есть это принципиальная отличия.
[00:01:49] То есть мы, грубо говоря, через сувагента поджигаем навык
[00:01:53] с KillMD, то, о чем мы вчера с тобой говорили.
[00:01:56] А через многопоточенное приложение,
[00:01:59] потому что оно написано по-другому, да?
[00:02:02] Мы поджигаем приложение, ну, какой-то дитерминированный код
[00:02:08] и отработать сувагента внутри независимых.
[00:02:13] А если нам нужно, соответственно, на модель,
[00:02:25] который пользуется сувагент, да,
[00:02:28] и на модель, которая пользуется код,
[00:02:31] который запускает внутри себя, ну, дитерминированный скрипт.
[00:02:38] А тот лезет еще в какую-то модель.
[00:02:41] Понимаешь?
[00:02:44] Да.
[00:02:47] Вот важно то, что изоляция работы,
[00:02:50] чтобы агент не лез, никуда, только запускал.
[00:02:54] Не принимал это решение, тоже что-то не работает.
[00:02:57] Да он вообще не нужен, она все равно нужен.
[00:02:59] Ну да.
[00:03:01] Ну, тут, смотри, какая история.
[00:03:04] Ну, а в этом случае нам не нужно, как бы, иметь сувагент.
[00:03:08] То есть сувагенты нужны только,
[00:03:10] если у тебя прям очень большая пирамида,
[00:03:12] то есть ты, например, запускаешь 50 потоков
[00:03:16] и на каждые там 5 потоков делаешь послабать код,
[00:03:20] который будет за ними смотреть.
[00:03:22] Но он как бы будет за ними смотреть.
[00:03:24] Он, по сути, будет мониторить, что вот у меня есть 5 потоков
[00:03:28] и я там, с такими-то таймаутами,
[00:03:30] гляжу в выход из этих, как бы,
[00:03:34] ну, выход из этих потоков.
[00:03:38] По приколку к тому, что он же принимает решение
[00:03:41] по факту детерминированные.
[00:03:43] То есть у него логика детерминированная.
[00:03:45] То есть, о чем она состоит?
[00:03:47] А там, где она не детерминированная,
[00:03:49] она вредная.
[00:03:51] Объяснил.
[00:03:53] Пиро на логика выглядит так.
[00:03:57] Я запустил там, с пакетом 3,
[00:04:00] допустим, 3 требования на запрос в LLM.
[00:04:04] Первый запрос отработал,
[00:04:06] я бы запустил 5.
[00:04:08] Второй запрос отработал,
[00:04:10] я запустил 7.
[00:04:12] Тут нет, как бы, для этой самой,
[00:04:15] ну, для думания тут вместо.
[00:04:18] Нет, логики нет.
[00:04:20] То есть, это просто логика.
[00:04:22] Там упала ошибка, пошел в обратную сторону.
[00:04:24] Например, модель упёрлась в лимит.
[00:04:26] Что он принимает?
[00:04:28] Какое решение?
[00:04:29] Детерминированная.
[00:04:30] О, я переключусь на другую модель.
[00:04:32] Нам нужно переключаться на решение.
[00:04:39] Понимаешь?
[00:04:40] Или он, например, примет решение.
[00:04:42] О, я перепишу приложение.
[00:04:44] Ну, а что ты там перепишешь?
[00:04:46] То есть у тебя приложение написано,
[00:04:48] тестировано, задокументировано,
[00:04:50] изведено в эксплуатацию.
[00:04:52] Нахрен ты тут нужен.
[00:04:54] Понимаешь, да?
[00:04:56] Получается, что это, как бы, вот слотация,
[00:05:00] когда мы запускаем.
## 2026-08-07/rec_20260807_133637.m4a (старт 13:36:37)
[00:00:00] это все вредная история. Поэтому, во всяком случае, хотя бы сейчас понятно,
[00:00:06] как это работает, что если ты запускаешь субогенто, ты можешь что-то делегировать,
[00:00:12] но мы должны тогда проектировать очень четко, потому что сейчас ты себе
[00:00:15] проектировал что-то, куда он там будет выкидывать, чем мониторить. То есть,
[00:00:23] конкретные требования про это не написаны. Понимаешь, что ты порежь вот сюда,
[00:00:28] положи вот сюда. То есть, он даже документацию под это делает, не ведет. А по факту,
[00:00:34] чтобы понимать, как каждый навык работает, нам это нужно. Ну ладно, так. Короче, просто,
[00:00:42] я хотел от чем сказать. Сейчас ты писал навык, например, или я писал. Ну, короче,
[00:00:50] делали мы навык и вот, а, мы не я делал и, значит, и вот, и вот, и вот, и вот, и вот, и вот, и вот,
[00:01:01] надо спросить его. Орион и Мэдж Геттон, он написан в стиле навыка, например, экстракт
[00:01:09] рет и рек дискрит, то есть, через многофоточность, да, там, с резимом резюм там и так далее,
[00:01:18] так далее. Или он написан через субоген. Понимаешь? Ну вот, например, Руси Митина,
[00:01:37] вот эта байда, она была же без субогетов, написана. То есть, по сути, это просто и
[00:01:41] то скрипты, которые запускались и бомбили, ну, что-то бомбили там. Не, но у меня есть шарп,
[00:01:47] скрипт, который, агент, это не использует. Ну ладно, это, короче, первая история архитектурная, поэтому,
[00:01:52] ты спроси сейчас, ну, я, в принципе, надо еду, может, ну, отпускаю, если он где. Ну, я могу его от
[00:02:04] руки запустить. Я могу экзэчник висить. Да, ты запускаешь экзэчник. Ты его запускаешь,
[00:02:14] экзэчник. Ну, понятно. Ну, либо через компиляцию, либо уже... Дело одно, дело… (повтор ещё 7×)
## 2026-08-07/rec_20260807_134138.m4a (старт 13:41:38)
[00:00:00] 2 разных ключа, например, ну ты же так и сделал, собственно, сейчас.
[00:00:05] Ты же сейчас зарегал модель.
[00:00:08] Игорь Ча, три ультра и больше.
[00:00:11] Правильно?
[00:00:12] Да.
[00:00:13] Ну, о чем он отвечает?
[00:00:14] Только я не знаю какой-то ключ.
[00:00:15] Открой что ультра.
[00:00:16] А там ключ ваш прописан, можно прописать любую-другую.
[00:00:20] Ну, я всегда говорю, что ты же зарегал эту самую.
[00:00:24] Просто можно понимать, что здесь много поточности,
[00:00:27] она определяется только вот разными ключами,
[00:00:30] потому что мы как разным моделям рубимся.
[00:00:33] Короче, ладно, сейчас давай к главному перейдем.
[00:00:37] Сейчас будет неудобно.
[00:00:38] Поезд приедет и будет хирург.
[00:00:41] Слышишь?
[00:00:42] Потому что через 15.
[00:00:43] Ты на офте в офис поехал?
[00:00:45] Нет, нет, нет, нет.
[00:00:47] Да, я еду в офис.
[00:00:48] Просто мы вчера как бы день закончили феерически.
[00:00:51] Ну, ты с нами был, вы начали,
[00:00:53] с моделью.
[00:00:54] Какой?
[00:00:56] Как?
[00:00:57] Какой мы модулью работаем?
[00:01:02] Алло вам.
[00:01:03] Так, ладно, давай.
[00:01:12] Короче, через 15 минут тебя наберу.
[00:01:14] Делай навык.
[00:01:15] Эпру.
[00:01:16] И народ.
[00:01:17] Бери за забрак.
[00:01:18] Короче?
[00:01:19] Да нет.
[00:01:20] Да, да.
[00:01:21] Хорошо.
[00:01:22] Давай вот.
[00:01:24] Попробуй пока это.
[00:01:26] Да.
[00:01:27] Хорошо.
[00:01:28] Пруф я еще сделаю.