256 lines
21 KiB
Plaintext
256 lines
21 KiB
Plaintext
# Беседа: beseda-20260807-1326.txt
|
||
# файлов: 4; начало: 2026-08-07 13:26; конец: ~2026-08-07 13:44
|
||
|
||
## 2026-08-07/rec_20260807_132635.m4a (старт 13:26:35)
|
||
|
||
[00:00:00] А ты пробовал засовывать это в OT5, то что у тебя получилось, или это пока с картинкой застрял?
|
||
[00:00:07] Нет, ну я же сделал импорт уже в базу знаний.
|
||
[00:00:14] И в приложухе она показывается?
|
||
[00:00:17] В приложухе, а я не знаю куда эта класть, я сейчас придет, Максим, я спрошу куда можно пропататься.
|
||
[00:00:23] У импорта сделал или экспорт?
|
||
[00:00:25] Я сделал экспорт, ну когда ты есть экспорт, называешь импортом, звучит как-то непонятно.
|
||
[00:00:34] Сделал экспорт?
|
||
[00:00:37] Надо взять разработчиков в любом запуговании, в частности Максима, скорее всего.
|
||
[00:00:44] Просто открой приложение OT5, зайди в раздел база знаний, и там у тебя будет кнопка и импорта.
|
||
[00:00:51] Хорошо.
|
||
[00:00:55] Ты можешь прямо себе, то есть, первое, ты можешь себе локально это засунуть, и это надо проверить.
|
||
[00:01:01] То есть, в базу знаний на машине.
|
||
[00:01:04] А второе, это можно засунуть лобально, через админку, которую сделал Дениил.
|
||
[00:01:12] Хорошо, ну что сделал?
|
||
[00:01:15] Надо протестить.
|
||
[00:01:18] Ладно, давай прорак.
|
||
[00:01:21] Что там в итоге тебе на это?
|
||
[00:01:23] Что ты там исследовал?
|
||
[00:01:25] В итоге, там есть три элемента.
|
||
[00:01:28] То есть, первое, надо решить, как мы будем хранить векторные.
|
||
[00:01:32] Второе, надо решить, какой библиотекой мы будем, грубо говоря, на чанке резать,
|
||
[00:01:38] потому что там есть тоже всякий разный выбор,
|
||
[00:01:42] и плюс еще можно там всякие разные технологии, не только на чанке порезать,
|
||
[00:01:47] можно еще порезанные чанки между собой в сеть построить,
|
||
[00:01:51] чтобы можно было от одного чанка перегти к другому без слов.
|
||
[00:01:56] Соответственно, есть какие-то еще элементы предварительного обработки твоего запроса,
|
||
[00:02:03] который первично сделал там удаление всяких символов управляющих, там еще что-то.
|
||
[00:02:10] Технология проста, да, то есть технически.
|
||
[00:02:16] Ты задаешь запрос, по нему ищутся чанки,
|
||
[00:02:23] чанки передаются модели какой-то, локальной или глобальной, и она...
|
||
[00:02:29] По запросу делается вектор, наверное.
|
||
[00:02:31] Ну да, по запросу делается вектор найденных чанков,
|
||
[00:02:36] и эти чанки передаются...
|
||
[00:02:38] Не на один чанк.
|
||
[00:02:40] А как ты ищешь без векторизации запроса в векторах чанк?
|
||
[00:02:46] Ну хорошо, пропустил.
|
||
[00:02:48] Твой запрос, по твоему запросу создаются векторопоиска,
|
||
[00:02:54] поэтому векторопоиска ищется векторах нарезанных чанков.
|
||
[00:02:58] И это потом передается модели, которая уже из найденного всего
|
||
[00:03:03] за ново отправленным запросом, в той же форме,
|
||
[00:03:06] или как-то измененной, там, в зависимости от векторопоиска.
|
||
[00:03:09] Это теория, да.
|
||
[00:03:11] На практике, соответственно, надо...
|
||
[00:03:16] Я думаю, мы будем брать пасгресс, плюс там до него
|
||
[00:03:20] дополнение определенное, и...
|
||
[00:03:24] Единственное, что я пока не понимаю...
|
||
[00:03:28] Ну, просто я пока не встретил, как это делается.
|
||
[00:03:33] Получается, что должен какой-то крон висеть,
|
||
[00:03:37] который будет у тебя каким-то способом,
|
||
[00:03:40] твои документы засоловать в базу векторов.
|
||
[00:03:44] Мы же обрабатываем документы сейчас,
|
||
[00:03:49] требования описывали.
|
||
[00:03:51] Ну понятно.
|
||
[00:03:52] Слайга генерирована.
|
||
[00:03:53] Чем это отличается от создания векторов?
|
||
[00:03:56] Чем?
|
||
[00:03:57] Чем?
|
||
[00:03:58] Обращаю внимания.
|
||
[00:04:00] Давайте я рассказывал о первом раз.
|
||
[00:04:02] Смотри, вот сейчас слайды...
|
||
[00:04:04] Господи слайды, навыки,
|
||
[00:04:07] начиная с навыка...
|
||
[00:04:10] Какого мы переписывали?
|
||
[00:04:13] Я на экстракт 3, сначала первым пошел.
|
||
[00:04:16] Второй навык.
|
||
[00:04:27] Слайга генерирована.
|
||
[00:04:57] Слайга генерирована.
|
||
|
||
## 2026-08-07/rec_20260807_133136.m4a (старт 13:31:36)
|
||
|
||
[00:00:00] Ну вот, короче, что в итоге, ну то есть нам как-то, что-то
|
||
[00:00:20] мы делали какую-то большую задачу, и нам GLM переписал,
|
||
[00:00:24] то есть, я делал ее из терминала Client, и он нам переписал
|
||
[00:00:27] лавок один с субогентов на, что-то я так понимаю, на
|
||
[00:00:34] работу с потоками, то есть, сделал многопоточную
|
||
[00:00:38] работу.
|
||
[00:00:39] Вот, то есть, в итоге получается, как он создает потоки,
|
||
[00:00:45] а потом мониторит из этих потоков выход, кто они пишут
|
||
[00:00:51] на этот самый на диск, ну и так далее, в том числе
|
||
[00:00:56] иногда прибивает их, ну и так далее, понимаешь, да?
|
||
[00:01:01] То есть, в итоге получается, что субогента, эта технология,
|
||
[00:01:06] которая позволяет с этой байде работать внутри
|
||
[00:01:10] агентов, да, как бы, то есть, у тебя запуск субогента
|
||
[00:01:16] звучит, как, грубо говоря, ну, например, Client или Client,
|
||
[00:01:23] то есть, ты от Client, и потом ты даешь там, допустим,
|
||
[00:01:27] там, промд такой-то, вот так звучит с командной
|
||
[00:01:31] строки запуск субогента, а запуск потоков, понятное
|
||
[00:01:35] дело, звучит не так, а, ну, грубо говоря, там, XS-ник
|
||
[00:01:38] или Python, там, чего-то, какой-то скрипт, вот, и вот
|
||
[00:01:44] это, по сути, сейчас уже три таких навыка, то есть,
|
||
[00:01:47] это принципиальная отличия, то есть, мы, грубо говоря,
|
||
[00:01:51] субогента поджигаем навык с KillMD, то, о чем мы вчера
|
||
[00:01:55] с тобой говорили, а через многопоточное приложение,
|
||
[00:01:59] потому что оно написано по-другому, да, мы поджигаем
|
||
[00:02:04] приложение, ну, как бы, какой-то декерминированный
|
||
[00:02:07] код, и отработать субогента внутри независимым, а если
|
||
[00:02:14] нам нужно, соответственно, на модель, который пользуется
|
||
[00:02:26] субогент, да, и на модель, который пользуется код, который
|
||
[00:02:32] запускает внутри себя, ну, декерминированный скрипт,
|
||
[00:02:38] а тот лезет еще в какую-то модель, понимаешь?
|
||
[00:02:42] Да, вот, важно то, что изоляция работы, чтобы агент не лез
|
||
[00:02:52] никуда, только запускал, не принимал это решение,
|
||
[00:02:57] но вообще не нужен, а нафера нужен, ну, да, ну, тут
|
||
[00:03:02] смотри какая история, ну, а в этом случае нам не
|
||
[00:03:06] нужно, как бы, иметь субогентом, то есть субогентом нужны,
|
||
[00:03:10] только если у тебя прям очень большая пирамида, то
|
||
[00:03:13] есть ты, например, запускаешь 50 потоков, и на каждой там
|
||
[00:03:17] 5 потоков делаешь послубогент, который будет за ними смотреть,
|
||
[00:03:22] но он как будет за ними смотреть, он, по сути, будет
|
||
[00:03:25] мониторить, что вот, у меня есть 5 потоков, и я там
|
||
[00:03:28] с такими-то таймаутами гляжу в выход из этих, как
|
||
[00:03:33] бы, ну, выход из этих потоков, по приколкам, что он же принимает
|
||
[00:03:40] решение по факту детерминированное, то есть у него логика детерминированная,
|
||
[00:03:45] то есть, о чем она состоит, а там, где она не детерминированная,
|
||
[00:03:49] она бредная, объясню, но, первая логика выглядит так, я запустил
|
||
[00:03:58] там, с пакетом 3, допустим, 3 требования на запрос ВЛЛМ,
|
||
[00:04:04] первый запрос отработал, я бы запустил 5, второй запрос
|
||
[00:04:09] отработал, я запустил 7, тут нет, как бы, для этой самой,
|
||
[00:04:15] ну, для думы нет, вместо, понимаешь, логики, логики нет,
|
||
[00:04:20] то есть, это просто логика, там упала ошибка, пошел
|
||
[00:04:22] в обратную сторону, теперь, например, модель упёрлась
|
||
[00:04:26] в лимит, что он принимает, какое решение, детерминированное,
|
||
[00:04:30] о, я переключусь на другую модель, нам нужно переключаться
|
||
[00:04:38] на решение, понимаешь, или он, например, примет решение,
|
||
[00:04:42] о, а я перепишу приложение, ну, а что ты там перепишешь,
|
||
[00:04:45] то есть, у тебя приложение написано, тестировано,
|
||
[00:04:49] задокументировано, изведено в эксплуатацию, нахрен
|
||
[00:04:52] ты тут нужен, понимаешь, да, ну, то есть, увлечается,
|
||
[00:04:57] что это как бы, вот, в эксплуатации, когда мы запускаем
|
||
|
||
## 2026-08-07/rec_20260807_133637.m4a (старт 13:36:37)
|
||
|
||
[00:00:00] Это все вредная история. Поэтому, во всяком случае, хотя бы сейчас понятно,
|
||
[00:00:06] как это работает, что если ты запускаешь субогенто, ты можешь что-то делегировать.
|
||
[00:00:12] Но мы должны тогда проектировать очень четко, потому что сейчас...
|
||
[00:00:15] Когда это все кировал, куда он там будет выкидывать,
|
||
[00:00:22] что мониторить, то есть конкретное требование про это не написано.
|
||
[00:00:26] Понимаешь, что ты порешиваешь вот сюда, положиваешь вот сюда,
|
||
[00:00:30] то есть он даже документацию под это делает, не ведет.
|
||
[00:00:33] А по факту, чтобы понимать, как каждый навык работает, нам это нужно.
|
||
[00:00:40] Ну ладно, как? Короче, просто я хочу опять отчетать.
|
||
[00:00:45] Сейчас ты писал навык, например, а или я писал.
|
||
[00:00:50] Короче, делали мы навык и вот... А, мы не я делал и...
|
||
[00:00:54] И вот иммэдс-кромген, вот, а ты делал сейчас и вот иммэдс-ген.
|
||
[00:01:01] И вот надо спросить его, а и вот иммэдс-ген, он написан в стиле навыка, например, экстракт-ред,
|
||
[00:01:09] и рек-дискрипт, то есть через многопоточность, да, там с резимом резюм, и так далее, и так далее.
|
||
[00:01:24] Или он написал через субогет? Понимаешь?
|
||
[00:01:32] Ну вот, например, у Семитина, вот эта байда, она была же без субогетов, написала.
|
||
[00:01:39] То есть, по сути, это просто итон скрипты, которые запускались и бомбили, ну, что-то бомбили там.
|
||
[00:01:46] Нет, ну у меня есть шарп, скрипт, который...
|
||
[00:01:48] Это, короче, первая история оксидектурная, поэтому...
|
||
[00:01:52] Приспроси сейчас, ну, если я доеду, может...
|
||
[00:02:01] Ну, он запускает, представим, где?
|
||
[00:02:03] Ну, я могу его от руки запустить.
|
||
[00:02:05] А просто с течником запускать?
|
||
[00:02:06] Ну, я могу его с течником запускать, потому что он висит.
|
||
[00:02:09] Да, то запускаешь с течником, как ты его запускаешь?
|
||
[00:02:11] Вот ты запускаешь.
|
||
[00:02:11] Командом и параметром, как мы на статте.
|
||
[00:02:13] Ты его запускаешь с течником?
|
||
[00:02:15] Ну, понятно.
|
||
[00:02:17] Ну, либо через компиляцию, либо уже открепляешь.
|
||
[00:02:20] Нет, ну дело одно дело, оно одно дело, так оно равно одно дело.
|
||
[00:02:34] Ну, контакт он тогда дал по...
|
||
[00:02:40] Ну, он потом получает работу в синглопотоке,
|
||
[00:02:42] но есть возможность, ну, до поточности.
|
||
[00:02:46] Ну, он работает, скорее всего, в синглопотоке.
|
||
[00:02:49] А, то есть он работает в синглопотоке,
|
||
[00:02:52] он запрос отправляет, ждет ответ, сохраняет картинку.
|
||
[00:03:01] Ну, просто креем у него есть очередь.
|
||
[00:03:04] Ты можешь покидать у него запросы, а потом отделить,
|
||
[00:03:08] чтобы не творить ответа.
|
||
[00:03:12] С гигачатом надо запомнить, что на фриме, на фриме уме
|
||
[00:03:17] у нас однопоточенная безвым,
|
||
[00:03:22] и даже если ты в службе терминала, например, запускаешь АЭС,
|
||
[00:03:28] и, кстати, в том числе, если, например, мы с тобой запускаем на наших машинах
|
||
[00:03:34] что-то с одним и тем же ключом, то выпал, то полунет, и все выпал.
|
||
[00:03:40] Там у него очередь есть.
|
||
[00:03:49] Ну, если мы одновременно работаем, если мы одновременно работаем
|
||
[00:03:54] с одним аккаунтом, то наши, получается, задачи в очередь стоят.
|
||
[00:03:58] Могут даже перемешиваться.
|
||
[00:04:00] Нет, не сразу в очередь, я тебе ошибку рубил сразу.
|
||
[00:04:05] Просто ты имеешь обидусть.
|
||
[00:04:08] Примем, однопоточенная безвым,
|
||
[00:04:11] и один и тот же ключ может использоваться только из одного терминала.
|
||
[00:04:16] Понятно.
|
||
[00:04:24] Он получается, если, например, мы будем генерировать картинки
|
||
[00:04:30] на какой-то, допустим, на модели гигачата,
|
||
[00:04:34] и в это время кто-то в этом гигачате будет документы
|
||
[00:04:38] справлять, а у нас фактически ключ один прописан в сеттинге.
|
||
[00:04:44] Нет, ну, еще и у нас до сих пор, у меня в других сеттингах,
|
||
[00:04:47] когда просто их надо, может быть, больше сделать, там, этих.
|
||
[00:04:51] Ну, либо, либо что, например,
|
||
[00:04:53] у нас, кстати, зарегистируют две модели, например,
|
||
[00:04:57] в ZLM отставить гигачат 3.0.
|
||
|
||
## 2026-08-07/rec_20260807_134138.m4a (старт 13:41:38)
|
||
|
||
[00:00:00] 2 разных ключа, например, ну ты же так и сделал, собственно, сейчас.
|
||
[00:00:05] Ты же сейчас зарегал модель.
|
||
[00:00:08] Игорь Ча, три ультра и больше.
|
||
[00:00:11] Правильно?
|
||
[00:00:12] Да.
|
||
[00:00:13] Ну, о чем он отвечает?
|
||
[00:00:14] Только я не знаю какой-то ключ.
|
||
[00:00:15] Открой что ультра.
|
||
[00:00:16] А там ключ ваш прописан, можно прописать любую-другую.
|
||
[00:00:20] Ну, я всегда говорю, что ты же зарегал эту самую.
|
||
[00:00:24] Просто можно понимать, что здесь много поточности,
|
||
[00:00:27] она определяется только вот разными ключами,
|
||
[00:00:30] потому что мы как разным моделям рубимся.
|
||
[00:00:33] Короче, ладно, сейчас давай к главному перейдем.
|
||
[00:00:37] Сейчас будет неудобно.
|
||
[00:00:38] Поезд приедет и будет хирург.
|
||
[00:00:41] Слышишь?
|
||
[00:00:42] Потому что через 15.
|
||
[00:00:43] Ты на офте в офис поехал?
|
||
[00:00:45] Нет, нет, нет, нет.
|
||
[00:00:47] Да, я еду в офис.
|
||
[00:00:48] Просто мы вчера как бы день закончили феерически.
|
||
[00:00:51] Ну, ты с нами был, вы начали,
|
||
[00:00:53] с моделью.
|
||
[00:00:55] В какой?
|
||
[00:00:57] В какой модели работали?
|
||
[00:01:03] Алло.
|
||
[00:01:11] Так, ладно, давай.
|
||
[00:01:13] Короче, через 15 минут тебя наберу.
|
||
[00:01:15] Делай навык, опрут.
|
||
[00:01:17] И народ береза забрать.
|
||
[00:01:19] Короче?
|
||
[00:01:21] Да, да, хорошо.
|
||
[00:01:24] Давай вот, попробуй подтоето.
|
||
[00:01:27] Да, хорошо, прух еще сделаю.
|
||
[00:01:51] Тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо, тихо.
|
||
[00:02:20] Тихо.
|
||
[00:02:22] Тихо.
|
||
[00:02:24] Тихо.
|
||
[00:02:26] Тихо.
|
||
[00:02:28] Тихо.
|
||
[00:02:30] Тихо.
|
||
[00:02:32] Тихо.
|
||
[00:02:34] Тихо.
|
||
[00:02:36] Тихо.
|
||
[00:02:38] Тихо.
|
||
[00:02:40] Тихо.
|
||
[00:02:42] Тихо.
|
||
[00:02:44] Тихо.
|
||
[00:02:46] Тихо.
|
||
[00:02:48] Тихо.
|
||
[00:02:52] Тихо.
|