206 lines
13 KiB
Plaintext
206 lines
13 KiB
Plaintext
# Беседа: beseda-20260727-2212.txt
|
||
# файлов: 3; начало: 2026-07-27 22:12; конец: ~2026-07-27 22:25
|
||
|
||
## 2026-07-27/rec_20260727_221223.m4a (старт 22:12:23)
|
||
|
||
[00:00:00] Ну, мне кажется, надо слово под роутером дружиться.
|
||
[00:00:10] Ладно, давайте попробуем что-нибудь больше на сути поговорим.
|
||
[00:00:21] Так вот, под роутер, модул, наешь, джеду, да.
|
||
[00:00:32] Нет, ну посмотрите.
|
||
[00:00:53] Ну, как мы с тобой покупаем на пользе, а на пользе.
|
||
[00:01:22] В принципе, тут тоже 100 рублей заходят.
|
||
[00:01:27] Есть.
|
||
[00:01:29] Ну, все равно.
|
||
[00:01:39] Два с половиной.
|
||
[00:01:43] Два с половиной на 100, сколько бы, 250 рублей.
|
||
[00:01:51] Два с дешевле.
|
||
[00:01:52] По роутере, модели, два с дешевле.
|
||
[00:02:03] Чем на пользе.
|
||
[00:02:05] Чем у них самих, ну, то и получается,
|
||
[00:02:13] входящий миллион токенов стоит 0,76.
|
||
[00:02:32] Ну, то есть, вот вопрос, как с ним работать.
|
||
[00:02:35] То есть, если у него будет бантик,
|
||
[00:02:37] в какой-то момент у него контекст поскочит до 100 000 токенов,
|
||
[00:02:41] то он теперь до 10 зафросов выбьет, ну, 70 рублей.
|
||
[00:02:46] Да, там же, когда он как один работает,
|
||
[00:02:49] но это регулярно происходит в истории.
|
||
[00:02:51] С агентами надо работать, короче, на миме.
|
||
[00:02:55] Да, а мимо того, что тебе доят, значит,
|
||
[00:02:59] я нашу мимо.
|
||
[00:03:04] Нет, мимо теперь говорит, слушай, 4 миллиарда токенов
|
||
[00:03:15] будет стоить 5 долларов.
|
||
[00:03:17] Чего?
|
||
[00:03:19] В том числе, миллионов токенов.
|
||
[00:03:21] Ну, и у кожаного цвета деньги.
|
||
[00:03:23] Да, да, да, да, да.
|
||
[00:03:25] Да, да, да.
|
||
[00:03:27] Могично, то есть, может быть, сделать какую-нибудь прийти,
|
||
[00:03:30] то есть, ну, какой-нибудь там в суперналах написать,
|
||
[00:03:34] в коде, да,
|
||
[00:03:37] а работать с ней уже,
|
||
[00:03:39] отпускать агент, потом все.
|
||
[00:03:41] Смотри, может быть.
|
||
[00:03:43] Ну, это же, да, вот.
|
||
[00:03:45] А эти поджигать будут на миме новой той причины.
|
||
[00:03:54] Нет, ну, она тогда, знаешь, так сделана,
|
||
[00:04:03] надо тогда наоборот и делать,
|
||
[00:04:05] ну, грубо говоря,
|
||
[00:04:07] чуть и не полностью дитерминирование.
|
||
[00:04:10] Ну, вот еще у тебя должна быть прям вот,
|
||
[00:04:12] ты запускаешь навык
|
||
[00:04:14] и у тебя,
|
||
[00:04:16] он не пытается,
|
||
[00:04:18] ну, и ты его запускаешь четко,
|
||
[00:04:20] он не пытается,
|
||
[00:04:22] что-то написать,
|
||
[00:04:24] вот, например, мы пишем с тобой.
|
||
[00:04:30] Запусти
|
||
[00:04:32] навык
|
||
[00:04:34] генерации
|
||
[00:04:36] вопросов
|
||
[00:04:38] для...
|
||
[00:04:40] Не закрывай.
|
||
[00:04:42] Генерации вопросов для документа
|
||
[00:04:44] там LP1
|
||
[00:04:46] ну, что тут может происходит?
|
||
[00:04:48] Нифига не запускается
|
||
[00:04:50] сразу запрос
|
||
[00:04:52] на генерации вопросов.
|
||
[00:04:54] Просто что-то так.
|
||
[00:04:56] LP1, то это.
|
||
[00:04:58] И он начинает, и я пойду, почитаю,
|
||
[00:05:00] описать.
|
||
|
||
## 2026-07-27/rec_20260727_221724.m4a (старт 22:17:24)
|
||
|
||
[00:00:00] Он почувствовал ритосаниналку. Мы тоже делим несколько проантов улетел.
|
||
[00:00:05] Потом он говорит так.
|
||
[00:00:08] Теперь я напишу из учёных структуру базыданных.
|
||
[00:00:13] Почёл улетел.
|
||
[00:00:15] Теперь я напишу за программу, которая сделает запрос базыданных.
|
||
[00:00:21] И найдёт документ с кодом LBID.
|
||
[00:00:26] Так.
|
||
[00:00:29] Писал программу.
|
||
[00:00:31] Программа у меня с ошибкой.
|
||
[00:00:33] Я не учёл, что там документов не завязаны на требования напрямую.
|
||
[00:00:38] Сейчас я их поправлю.
|
||
[00:00:40] Всё равно у меня срок на название «Телемедий».
|
||
[00:00:43] Это длинное жёсткое уважение.
|
||
[00:00:47] Да, все хотят.
|
||
[00:00:48] А потом он говорит так. Ладно.
|
||
[00:00:50] Теперь я запускаю аналог.
|
||
[00:00:52] Он запускает навык.
|
||
[00:00:54] Это детерминированная обьётка.
|
||
[00:00:56] Вокруг LLM-модели.
|
||
[00:00:58] Туда поставляет просто идти с них документы.
|
||
[00:01:02] То есть, ты мог бы заранее посмотреть параметры с кодом документа.
|
||
[00:01:06] И он бы просто взял и подставил туда.
|
||
[00:01:09] Даже заранее-то в фрейде.
|
||
[00:01:12] А мы за счёт того, что мы ему написали вот так свободные формы,
|
||
[00:01:17] соответственно, вот это всё и стерпью занималось.
|
||
[00:01:20] И сжём кучу токенов.
|
||
[00:01:23] Просто там.
|
||
[00:01:24] Ни на что полезные.
|
||
[00:01:27] Потому что она вот уже написана.
|
||
[00:01:29] И потом, когда он уже работает детерминированная,
|
||
[00:01:32] и он даёт, например, задание субогенту.
|
||
[00:01:36] Вот в этот момент мы можем, допустим,
|
||
[00:01:40] плаковать как раз пусками запросы LLM-модели,
|
||
[00:01:45] тройкин и параметры сжечь.
|
||
[00:01:48] Уже как бы контролируемо.
|
||
[00:01:53] Понимаешь?
|
||
[00:01:56] И на входе главное, там будет маленькое количество токенов.
|
||
[00:02:04] То есть, если он будет пулять туда только...
|
||
[00:02:08] Ну, только мы будем обрабатывать.
|
||
[00:02:10] Например, сделаем обысок, сделаем контент.
|
||
[00:02:14] То в модель полетит только содержит основание которого надо это сделать.
|
||
[00:02:20] Слушай, ну, описание...
|
||
[00:02:22] И особенно, особенно, это круто будет для небольших оёмов,
|
||
[00:02:27] таких как требования.
|
||
[00:02:30] Вот всё, что касается требований спотов,
|
||
[00:02:33] оно должно по идее жрать минимум токенов.
|
||
[00:02:37] Ну, как-то, да, описание технологических операций.
|
||
[00:02:40] Уже для описания технологических операций у нас больше всего и шарал.
|
||
[00:02:44] Когда он начинает думать,
|
||
[00:02:46] когда он начинает писать вот эти...
|
||
[00:02:48] Нет, подожди.
|
||
[00:02:49] А это будет ненадолго.
|
||
[00:02:51] На модели.
|
||
[00:02:52] Это другое.
|
||
[00:02:54] Мы плакаем.
|
||
[00:02:55] И с нами будут везде деньги,
|
||
[00:02:57] за входящие и исходящие токены.
|
||
[00:03:01] Да.
|
||
[00:03:02] За входящие и исходящие токены.
|
||
[00:03:06] Соответственно.
|
||
[00:03:08] И когда он внутри там шурупит,
|
||
[00:03:12] мы разговариваем, это не влияет.
|
||
[00:03:14] Угу.
|
||
[00:03:15] И поэтому, вот если ты каждую засудишь по отдельным,
|
||
[00:03:21] если проливнёшь,
|
||
[00:03:23] это у тебя будет один объём токена.
|
||
[00:03:26] А если ты сделаешь пакет,
|
||
[00:03:28] ты скажешь, вот тебе три требования и текст,
|
||
[00:03:32] вот сделай работу такую-то какую-то,
|
||
[00:03:34] и оно улетит туда.
|
||
[00:03:36] Вот скажи, вот тебе десять требований, контекст.
|
||
[00:03:39] И у тебя вот такой пакет, куда уйдёт.
|
||
[00:03:42] То есть у тебя вот такие,
|
||
[00:03:44] либо каждому требованию будет прикреплён,
|
||
[00:03:46] промут, как минимум, да, на 300 строк, как мы любим.
|
||
[00:03:50] Либо у тебя десяти требований,
|
||
[00:03:52] может быть, ста требований будет прикреплён.
|
||
[00:03:55] Этот самый.
|
||
[00:03:56] Да.
|
||
[00:03:57] Но он его тогда помнишь, тоже забивал,
|
||
[00:03:59] может, мы же ему говорили, для обновления.
|
||
[00:04:01] А для этого слабогенто.
|
||
[00:04:03] Ну, просто у тебя слабоген должен делать.
|
||
[00:04:06] Заропровоз.
|
||
[00:04:09] Вот.
|
||
[00:04:10] Один.
|
||
[00:04:11] Вот.
|
||
[00:04:12] Знаешь, несколько.
|
||
[00:04:13] Я только резал его по смыслу,
|
||
[00:04:15] отдавал всю богенто,
|
||
[00:04:17] чтобы богенто работали.
|
||
[00:04:19] Ну, выбирал.
|
||
[00:04:21] Ну, это мы сейчас с тобой упражняемся,
|
||
[00:04:23] мы можем через главе смотреть,
|
||
[00:04:27] что он туда пыляет.
|
||
[00:04:29] Есть там у него тогда?
|
||
[00:04:31] Да нет, нет.
|
||
[00:04:34] Через пользу.
|
||
[00:04:36] Через пользу мы могли смотреть.
|
||
[00:04:39] Через что-то мы могли смотреть.
|
||
[00:04:42] Ну, мы в пользу включим сейчас мимо,
|
||
[00:04:44] такой приебочек.
|
||
[00:04:46] И пусть его даёт право учить.
|
||
[00:04:48] А может быть, желаю включить,
|
||
[00:04:50] чтобы полезно было.
|
||
[00:04:52] Но я имею в виду, что есть вопросы
|
||
[00:04:54] про программирование,
|
||
[00:04:56] а именно про работку контекста.
|
||
|
||
## 2026-07-27/rec_20260727_222225.m4a (старт 22:22:25)
|
||
|
||
[00:00:00] Чё там есть эти модели по поводу модель?
|
||
[00:00:04] Ну, пишем, 7 минут нет ответа.
|
||
[00:00:09] Не грузится модель в память, сейчас будем разбираться.
|
||
[00:00:13] Ну, вообще там загружена более простая модель.
|
||
[00:00:18] Вот если напишешь в модели вот эту штуку, может быть и заработает.
|
||
[00:00:24] Не факт, конечно, но кто что его знает.
|
||
[00:00:28] Просто эта модель, точно, она в оперативке.
|
||
[00:00:35] Так в N3 у неё получается как-то контование или как там они называют.
|
||
[00:00:42] Самое простое.
|
||
[00:00:45] Она всего висит 5-7 гигабайтов в модель.
|
||
[00:00:48] Я просто найду чё-то-то для меня уже.
|
||
[00:01:55] Он чё-то мне ничего не ответил?
|
||
[00:02:05] Тоже не ответил.
|
||
[00:02:12] По-плохивой.
|
||
[00:02:21] Ладно, давай.
|
||
[00:02:23] Мы с Великом туда сейчас пока решаем наши контентные задачи.
|
||
[00:02:26] Потом завтра всток побудет.
|
||
[00:02:29] Всё, ладно.
|
||
[00:02:34] Давай.
|