Статус моделей

Как считается статус

Один столбец — один час реального клиентского трафика, и единица счёта — запрос, который кто-то действительно отправил: зелёный — запросы получили ответ, жёлтый — заметная доля вернулась ошибкой, красный — было несколько неудач и при этом ни один запрос за час не вернулся, серый — трафика не было и судить не по чему либо час, о котором мы уже не можем судить честно. Одна неудача в пустом часе остаётся жёлтой: одна ошибка — ещё не авария. Как и один клиент: если все неудачи часа пришли от одного клиента, а модель недавно отвечала другим, час остаётся жёлтым, сколько бы запросов этот клиент ни отправил, — по ошибкам одного клиента о модели судить рано. Запрос считается неудачным, только если ошибку получил клиент: после того как перебраны все аккаунты этой модели и исчерпаны все повторы. То, что роутеру пришлось сделать ради ответа, модели в минус не идёт — переход на другой аккаунт, повтор, ожидание лимита, — потому что клиент ответ получил, а эта страница публикует его опыт, а не наш. Запрос, отклонённый как некорректный ещё до обращения к модели, не считается никуда. Два уточнения про цифру: модель из комбо, которая не ответила, засчитывает себе неудачу, даже если ответ дала соседняя модель — этот ответ не её; а ответ, оборвавшийся посреди стрима, засчитывается как успешный, потому что часть его клиент уже получил. Модели изображений и видео тоже на этой странице, и про них есть неочевидное: видео и любая генерация, поставленная в очередь студии, записывается запросом в момент, когда провайдер ПРИНЯЛ задачу, поэтому умершая позже задача иначе осталась бы в числе отвеченных. Если списание за такую генерацию вернули — провайдер не выдал пригодного результата, задача не доехала — запрос считается здесь неудачей, а не успехом. Возвраты не по вине модели ей в минус не идут: задача, которую прервал наш перезапуск или диспетчер до ответа провайдера, задача, до провайдера не дошедшая, и попытка, которую студия переслала заново, если повтор результат выдал. Генерация, которую провайдер отклонил из-за самого промпта клиента, не считается никуда — как и текстовый запрос, отклонённый как некорректный. Часы старше перехода на эту методику посчитаны по прежней — по обращениям к апстриму, а не по клиентским запросам — и выглядят хуже реального; из окна они уйдут через семь дней после смены. Имена аккаунтов, ключи, содержимое запросов и внутренние ошибки не публикуются.