212 lines
18 KiB
Plaintext
212 lines
18 KiB
Plaintext
# Беседа: beseda-20260728-1529.txt
|
||
# файлов: 3; начало: 2026-07-28 15:29; конец: ~2026-07-28 15:44
|
||
|
||
## 2026-07-28/rec_20260728_152902.m4a (старт 15:29:02)
|
||
|
||
[00:00:00] А, как говорится, GPT у нас подписка живая, а рюха не пользуется кодексом.
|
||
[00:00:07] Чем я, так понимаю, кодекс и GPT — это разные вещи, то есть кодекс — это просто отдельные доеха.
|
||
[00:00:16] Ну, если в стиповое сходо.
|
||
[00:00:20] Ну ладно, короче, я прошел.
|
||
[00:00:24] То есть второе момент — у нас есть 1 количество подписок.
|
||
[00:00:28] У нас есть и именно в режиме.
|
||
[00:00:34] И у нас реклайн, а реклайна — у нас есть себя.
|
||
[00:00:42] У нас есть мимо в количестве 1 штука.
|
||
[00:00:48] И в принципе, это из того, что прямо сейчас в активах.
|
||
[00:00:53] То есть мимо, реклайна и GPT.
|
||
[00:01:00] И я потихонечку дозреваю, чтобы взять этот сандрик.
|
||
[00:01:06] Она готова.
|
||
[00:01:09] И вот, сейчас как раз, поэтому и надо обсудить.
|
||
[00:01:13] Тихонечку дозреваю, чтобы взять GLM пощупать уже руками.
|
||
[00:01:19] Вот.
|
||
[00:01:22] Еще несколько фактов.
|
||
[00:01:25] Ну, вот, перспективи GLM.
|
||
[00:01:27] У QN-а какой-то совсем кислый сайт.
|
||
[00:01:30] Я вообще ничего не нашел, какого плата использовать.
|
||
[00:01:34] У нас плюс есть опыт крутения моделей в собственных серверах.
|
||
[00:01:38] Пользуя, наверное, из фактов, которые надо доложить в анализ.
|
||
[00:01:47] То есть, по-хорошему, все, что мы сейчас с тобой говорим,
|
||
[00:01:49] это нам надо сделать в виде промта.
|
||
[00:01:52] То есть, вот исходники, вот наш опыт, вот наши выводы,
|
||
[00:01:56] вот наши задачи.
|
||
[00:01:58] И вот какие требования у нас решения.
|
||
[00:02:01] Засолнуть модель, чтобы она нам посоветовала,
|
||
[00:02:04] что с этим всем делать.
|
||
[00:02:06] Ну, короче, исходники вот такие.
|
||
[00:02:09] И дальше у нас есть потребности.
|
||
[00:02:12] У нас есть потребности кодирования большой команды людей.
|
||
[00:02:17] И у нас есть потребности...
|
||
[00:02:25] Где у нас есть еще потребности?
|
||
[00:02:27] У нас есть потребности инвестиру на работу.
|
||
[00:02:30] И вести эксплуатацию.
|
||
[00:02:33] Давай, может, ты сейчас...
|
||
[00:02:35] О, у него запись, мы сейчас все это дело наговорим,
|
||
[00:02:37] потом раскрибируем.
|
||
[00:02:39] А, ну, отлично, тогда вылежим оттуда этот кусок.
|
||
[00:02:43] Вот, значит, смотри.
|
||
[00:02:45] И, то есть, вот для того, давай, тогда популька.
|
||
[00:02:49] У нас есть команда, большая, разномасная,
|
||
[00:02:52] которая ведет о разработку каких-то и приложениях.
|
||
[00:02:58] И Б, у нас есть, уже мы сейчас понимаем, потребность,
|
||
[00:03:01] в том, чтобы отделять готовые приложения
|
||
[00:03:05] от среды разработки.
|
||
[00:03:08] И, как бы...
|
||
[00:03:10] Ну, и даже если мы будем запускать среды разработки,
|
||
[00:03:13] мы будем запускать их с пользовательством,
|
||
[00:03:15] с интерфейсом, чтобы использовать их,
|
||
[00:03:18] ну, как бы, без лишних расходов
|
||
[00:03:21] на, как бы, вот эту вот агентскую историю.
|
||
[00:03:25] Вот, и теперь вопрос.
|
||
[00:03:27] То есть, как нам...
|
||
[00:03:29] То есть, какие... Как нам организовать
|
||
[00:03:32] инференс такой вот распределенный
|
||
[00:03:36] для того, чтобы решать все наши задачи?
|
||
[00:03:39] То есть, где нам нужны подписки?
|
||
[00:03:41] Где нам нужны опи, да?
|
||
[00:03:44] А где нам нужны собственные модели?
|
||
[00:03:46] Получается, что у нас есть вот три момента, да?
|
||
[00:03:51] В том числе, у нас есть определенные степени свободы.
|
||
[00:03:55] То есть, мы должны смотреть на бюджет на подписке,
|
||
[00:03:58] на бюджет на...
|
||
[00:04:04] На опи.
|
||
[00:04:06] И, в принципе, мы можем смотреть на бюджет на железо.
|
||
[00:04:09] Если оно позволит крутить
|
||
[00:04:12] какие-то более продвинутые модели.
|
||
[00:04:17] Потому что, например, если мы занимаемся
|
||
[00:04:20] кодированием таким вот человеческим,
|
||
[00:04:23] то есть мы сидим, так, сделаем такой репозиторий,
|
||
[00:04:26] сделаем такую хранимую функцию,
|
||
[00:04:28] ну, это все можно делать,
|
||
[00:04:30] в том числе с локальным одетом, понятно, на делах.
|
||
[00:04:34] Другой вопрос, что...
|
||
[00:04:37] А нужно ли в этом случае иметь большую команду?
|
||
[00:04:41] Не нужно, не нужно.
|
||
[00:04:43] Которые будут...
|
||
[00:04:45] В этом, как раз, и фишка в том, что не нужно.
|
||
[00:04:48] Просто другой вопрос, что получается...
|
||
[00:04:53] И если раньше это было, например,
|
||
[00:04:56] грубо говоря, там три программиста,
|
||
[00:04:58] а ты остаешься один,
|
||
[00:05:00] то...
|
||
|
||
## 2026-07-28/rec_20260728_153403.m4a (старт 15:34:03)
|
||
|
||
[00:00:00] Это будет не сильно быстрее, чем три программиста делали. Это будет дешевле, да, дешевле под деньган, но по времени
|
||
[00:00:10] фиг его знает. Вот я сейчас заметил, что мы вот раз мы с тобой в эту штуку вцепились,
|
||
[00:00:17] мы уже с тобой не 8 часов этим занимаемся, по 16 часов я отстаю в 10 начинаю и ложусь там
|
||
[00:00:28] могу вообще до трех ночи, то есть ковыряться. Надеюсь это временно, надеюсь это временно,
|
||
[00:00:35] что мы пока осваиваем. Это идет этап становления сейчас, поэтому у нас есть
|
||
[00:00:44] Безбрежное море информации и как бы опыт не приобретенного, который мы стараемся максимально
|
||
[00:00:56] быстро приобрести, потому что есть ограничение бизнес с рядой из другой страны. И поэтому у тебя
|
||
[00:01:05] идет вот такая нагрузка, но мы же сейчас не задаемся вопросом, как поставить в вискот. А раньше
|
||
[00:01:15] а что такое в вискот, мы спрашивали, а теперь мы не задаемся вопросом, как поставить в вискот. Мы говорим,
|
||
[00:01:21] Женя, обновимые скот со 102 версии, но спецсат. Всякие штуки из коробки доступны. Обновился?
|
||
[00:01:32] Еще не обновился. Сейчас сессию закончу, чтобы можно было не потерять. Не смог я восстановить, то есть я
|
||
[00:01:46] спросил Калайн, он сказал, он пошел какого-то понес, какого-то хеней. То есть если ты запускаешь
|
||
[00:01:54] Калайн через терминал и из него выбаливаешься, уже ничего нельзя восстановить. Ну давай,
|
||
[00:02:00] я тебе опыт скажу, мимо, че-то я как-то его закрыл, как раз на такой, на вашной сессии. Я ему говорю,
|
||
[00:02:11] слушай, как мне продолжить предыдущую сессию? Он говорит, пиши команду сессию. Он мне показывает сессию
|
||
[00:02:19] предыдущую. Теперь бери айдишник сессию и говори, продолжи сессию. Я ему говорю, айдишник,
|
||
[00:02:26] продолжи сессию. Ну вот получается, что в мимофском терминале это можно, а вот в Калайне нет этого.
|
||
[00:02:38] Главное дело. Ну ладно, короче, ладно, давай дальше. Вот теперь нам нужно бы определиться,
|
||
[00:02:48] какой у нас будет подход, только ко всем этим вещам. Но я имею в виду инференцию модели. У нас
|
||
[00:03:01] есть небольшому счетку, то есть пока из того, что я знаю три больших опции, это подписки,
|
||
[00:03:07] это опии собственной модели. Логично, наверное, если глубоко смотреть на все это дело,
|
||
[00:03:19] наверное, разработку может идти на подписках, эксплуатация на опии, хотя там тоже есть
|
||
[00:03:34] варианты. Ну и, конечно, эксплуатация на собственных моделях. Есть без вопросов. Вот,
|
||
[00:03:45] у нас такая история. Потому что с подписками что-то неудобное. В каких проблемах есть?
|
||
[00:03:52] Подписками есть проблемы в множественной работе, когда много людей на одной подписке. Вот,
|
||
[00:04:02] то мы сейчас уже более опытные стали выжиральчить лимитов. Вот, но при этом часто они выжираются в
|
||
[00:04:12] том числе, когда мы эксплуатация запихиваем подписку. Может быть, для этого должны быть
|
||
[00:04:23] стать отдельные подписки для эксплуатации. Вот, понимаешь, так? Вот, вот она есть и она крутится
|
||
[00:04:32] только там. Потому что в судьбе, там, вот, смотри, наверное, мы должны прийти к какому-то бюджету.
|
||
[00:04:40] Здесь мы говорим про бюджет. Ну, допустим, 30 тысяч рублей. То есть, это у нас сколько в долларах?
|
||
[00:04:50] 2400? Наверное, меньше. Так? Какой будет 50 тысяч рублей? 500 баксов.
|
||
|
||
## 2026-07-28/rec_20260728_153904.m4a (старт 15:39:04)
|
||
|
||
[00:00:00] Плачи по миру, там есть эксклюзивная карта у них за десятку, я купил за три, а там есть за десятку.
|
||
[00:00:20] Вот, она дает тебе 10 рублей дельта на курсе, например, в уголь баксов.
|
||
[00:00:27] То есть так, 90, а с этой карты 80.
|
||
[00:00:31] Понимаешь, да?
|
||
[00:00:33] Ты в себе 100 баксов закидываешь, уже...
|
||
[00:00:37] О, там сыкануешь, тысячи рублей сыкануешь.
|
||
[00:00:40] Ну я, потому что может быть бюджет на модели вообще в целом, сравнимый с зарплатой работника.
|
||
[00:00:48] Поэтому у тебя есть один работник, который что-то пыхтит.
|
||
[00:00:52] А так у тебя все работники получают бюджет.
|
||
[00:00:58] А вот и надо в жертву повезти, короче.
|
||
[00:01:04] Вот, я просто, потому что нужно взять бюджет и размазать его по подписку.
|
||
[00:01:10] И всему другу, всему другому лильше.
|
||
[00:01:14] То есть это вопрос про деньги.
|
||
[00:01:16] Вот что ты сейчас думаешь?
|
||
[00:01:20] Какое объединение?
|
||
[00:01:21] Потому что вот мы, смотри, мы с Клайном поработали.
|
||
[00:01:23] То, что ты показываешь сейчас, о выжирандею.
|
||
[00:01:27] Ну, наверное, что мы можем пока сказать?
|
||
[00:01:30] На месяц этого будет притринг.
|
||
[00:01:34] Или скорее всего, не хватит того, что дает Клайна.
|
||
[00:01:39] Вот, это вопрос.
|
||
[00:01:41] А что он дает?
|
||
[00:01:44] Возможно пощупать модели.
|
||
[00:01:47] Да.
|
||
[00:01:49] Первое, самое главное, он дает возможность поработать с разными моделями.
|
||
[00:01:53] Причем, никакими-то совсем дремучими.
|
||
[00:01:59] Пополно не с неплохими моделями.
|
||
[00:02:01] Хода GLM2, которая, грубо говоря, конкурирует с лучшими антропиками.
|
||
[00:02:13] И поэтому, как бы вопрос, нужно ли при этом Клайна иметь в промышленных масштабах?
|
||
[00:02:20] То есть продление, он у нас сожрет на троих 10-30 долларов.
|
||
[00:02:26] 30 долларов.
|
||
[00:02:28] Что там это?
|
||
[00:02:29] 3 тысячи рублей.
|
||
[00:02:31] Я что-то неправильно прочитал.
|
||
[00:02:33] Да, 3 тысячи рублей.
|
||
[00:02:37] Ну, не так уж и много.
|
||
[00:02:39] Если мы просто хотим иметь под гофах такую штуку.
|
||
[00:02:42] Если мы хотим иметь большой бюджетокенов, более меняемых.
|
||
[00:02:47] Можно взять.
|
||
[00:02:49] Слушай, я скажу так.
|
||
[00:02:51] Вот, например, вот эту привожуху я писал на MIMO 2.5.
|
||
[00:02:55] В принципе, я, конечно, в код не смотрел.
|
||
[00:03:00] Тут именно как раз был вообще чистый вайп-кодинг.
|
||
[00:03:04] Без четкого ТСЗ, без разделения своев и так далее.
|
||
[00:03:09] Потому что задача простая.
|
||
[00:03:11] Сохрани, запиши.
|
||
[00:03:13] Сохрани, положи.
|
||
[00:03:15] Да.
|
||
[00:03:16] Научились записывать.
|
||
[00:03:18] Научились резать по файлам.
|
||
[00:03:20] Там, зависимо от настроек.
|
||
[00:03:22] Научились класть в Яндекс-диск.
|
||
[00:03:25] Как там внутри эта штука работает?
|
||
[00:03:28] В принципе, не суть важно.
|
||
[00:03:30] Потому что конкретное приложение с одной, грубо говоря, с двумя функцией.
|
||
[00:03:35] Сохранить, тремя функциями.
|
||
[00:03:37] Сохрани, нарежь, положи.
|
||
[00:03:39] Все. Никаких своев, ничего.
|
||
[00:03:42] С этим она нормально справилась.
|
||
[00:03:44] Но я еще на MIMO, грубо говоря, не писал приложение.
|
||
[00:03:49] Потому что у нас большая часть того уже написана.
|
||
[00:03:52] Хотя бы инфонструктурный слой в виде базы данных и депозиторов.
|
||
[00:03:57] То есть это было написано на кладе.
|
||
[00:04:00] А на MIMO только я вот такие вещи там.
|
||
[00:04:05] Я больше на нее...
|
||
[00:04:07] А в чем там проблема?
|
||
[00:04:09] У кого?
|
||
[00:04:10] Проблема к чем?
|
||
[00:04:11] Ну, я имею в виду, с MIMO.
|
||
[00:04:14] Нет, проблема нет никак.
|
||
[00:04:15] Я практически всегда проектирую базу либо сам полностью.
|
||
[00:04:20] Либо общую структуру я всегда даю.
|
||
[00:04:24] Дальше есть правила кодирования.
|
||
[00:04:26] И так далее.
|
||
[00:04:27] Всякая уточинка.
|
||
[00:04:29] Я про то, что его достаточно.
|
||
[00:04:34] Можно даже и, может быть, даже и избыточна.
|
||
[00:04:38] Но, грубо говоря, она...
|
||
[00:04:40] Это если мы с тобой говорим...
|
||
[00:04:42] Подожди.
|
||
[00:04:43] Это если мы с тобой говорим про кодирование,
|
||
[00:04:46] назовем так классический приложение.
|
||
[00:04:49] Или детерминированность приложения.
|
||
[00:04:52] А если мы говорим с тобой про и разработку, и приложение.
|
||
[00:04:59] Здесь надо другая история.
|