Премиум пакет и мобильные технологии передачи данных (тут про 5G)

[romeor]

Привет,

Предыстория: имею дома 2 подключения к сети Интернет: по оптике и по 5G. По оптике 300 мбпс, 5Г - 500 мбпс. Смотрю с S04. Логин e953bb9. Плеер - Tivimate. По потике и по 5Г по сути один и тот же провайдер. Пути до S04  одинаковые. Скорость с S04 - максимальная. Но разницы нет, порт у ТВ все равно 100Мбпс. Дома2  ТВ, картина везде одинковая (смотрю не одновременно)

Проблема: Когда смотрю через 5Г пакет премиум прямой эфир, картинка уходит периодически в буфферизацию. По кабелю - нет. Судя по всему, не может 5Г сеть предоставлять достаточно времени на "поговорить" модему, который хочет так часто качать тяжелые чанки со скоростью 80+ мбпс. Ему не дают выйти в эфир и он пропускает некоторые. Из-за чего буфферизация и возникает.  Если смотреть обжатый канал, то такой проблемы не возникает, там чанки легче и всё ок. Техноология 5Г набирает обороты и, скорее всего, будет скоро довольно много клиентов у вас с ней и, возможно, проблема наберет обороты. Я пробовал увеличивать буффер в тивимейте до самого большого - не помогает. При этом, точно такие же провалы в графике трафика есть и при просмотре 4К фильмов, но там не буфферит. Я ради интереса подключил конкурента вашего, не знаю, можно ли тут писать название его, у него тоже есть не обжатые каналы, там не буферит.

 

Вопрос: связан вопрос как раз с двумя факторами: нет буфферизации при просмотре 4к из медиатеки и нет буфферизации при просмотре тех же каналов у конкурента. Я не углублялся в матчасть, но понимаю, что отдача чанков идет по какой-то адаптивной технологии (hls?)  и есть различные сетевые стеки у приложений, чтобы это принимать. Тот же тивимейт использует OkHTTP через плеер  ExoPlayer.. У него есть и другие стеки, но разраб TiviMate сказал, что другие вводить в планах нет. Суть вопроса: вы можете со своей стороны ограничть максимальную скорость отдачи чанков или хотя бы бурст ? И второй вопрос, вытекающий из первого. Понятно, что чем эффективнее и быстрее отдаст сервер кусок, тем больше клиентов он обработает. Но раз возникает у нас такая проблема с 5Г, то может вы сделаете, например, в панельке плейлиста галочку "у меня мобильный интернет", и на основании этого, таким пользователям будет отдаваться по пдругому, не так бурстить чтобы.

 

Я приложу все картинки, которые снял с порта ТВ. На картинке с 5Г просмотром live 1hd канала отметил красным, где была буфферизация.

 

4К кино трафик с порта тв

 

конкурент 1hd - uncomp

 

просмотр по оптике

 

просмотр через 5Г

Изменено 12 ноября, 2022 пользователем romeor

[romeor]

если смотреть канал с архива, история такая же. забыл добавить.

[romeor]

тэкс, ставим тему на паузу. Сегодня достучались до производителя zyxel, прислали новую прошивку для 5Г мопеда. Обновился, пока что 15 минут полет нормальный. Буду следить и обязательно сюда отпишусь со своими наблюдениями. Вдруг, кому-то это интересно и следит кто, а не в пустоту пишу :)

[romeor]

Нет, это не решило проблему. Копаю дальше. Пока что непонятно, где проблема точно. Единственное, что точно ясно - пока качает на медленных скоростях, все ок, как только бурстить начинает, через какое-то время появляются и дыры в графике, а потом и буфферизация начинается. 

 

Вот если перевести в lte режим, качает вот так вот. Ровненько, без дыр. Бурстами по 25-36 Мбпс. Но как только телек или аппликуха понимает, что полоста пропускания стала жирной (перевести в 5г режим рутер), сразу начинается картинка выше.

[romeor]

хмм

Изменено 15 ноября, 2022 пользователем romeor

[Proctor99]

Спасибо за ваше исследование, очень интересно.

Касательно бурста - это целиком не на нашей стороне. Сам протокол HLS он как обычный http: мы вам плейлист с ссылками на чанки - вы качаете их с той скоростью, какую позволяет ваш провайдер, устройство, роутер и т.д. Т.е. насильно с нашей стороны ничего свыше полосы пропускания не идет. Т.е. вы можете запросить плейлист и не качать чанки, потому что они лежат в памяти и для каждого клиента отдаются из нее же по мере поступления запросов. 

Наши сервера подключены каналами по 20-40 гбит, поэтому скорость они могут выдавать хорошую. 

Мне очень странно, что у вас не зависает архив. И вот почему:

1. Плейлист с архивной передачей - он закрытый. Т.е. в нем уже есть вся последовательность чанков от первого, до последнего. Задача плеера просто качать последовательно все чанки и создавать некоторый кэш на просмотр.

2. В отличие от архива, лайв содержит 5-10 чанков на следующие 30 секунд примерно. Поэтому плеер часто ходит за обновлениями плейлиста и я допускаю, что там может возникнуть ситуация, в которой плеер не успевает прокачать через интернет все данные.

Далее есть еще момент с весом самого чанка. Мы регулярно делаем разного рода проверки скоростей между нашими серверами. И вот какая штука: если файл маленький, в пределах пары мегабайт - то не удается за этот промежуток разогнать канал на полную скорость, т.к. к тому моменту файл уже успел загрузиться. Как только берем файл побольше - скорость больше. 

В вашем случае, я думаю именно это и происходит. 4к каналы разные бывают. Бывают с низким битрейтом, а есть с высоким. Я знаю, что у нас есть некоторые каналы с битрейтом под 20 мбит. Соответственно там и чанки будут увесистые. 

 

И тут несколько опций:

1. Перегруз модема

2. Шейпинг на провайдерском оборудовании. 

 

Со своей стороны мы можем отрегулировать кол-во чанков и их продолжительность.  Сейчас это 10 чанков по 5 сеукнд. Возможно, уменьшение чанка до 3х секунд будет оправдано для тяжеловесных каналов.

 

[romeor]

Спасибо за ответ и за то, что принимаете участие.

С бурстами разобрался. Обновил мобильный модуль на модеме и бурсты такие пропали. Теперь от сети выдается ровно такая скорость, которая необходима для работы. То есть, модем стал следовать принципам оптимизации в сети. Если я запущу 2-3 раза подряд тот же speedtest, получаю максимальную скорость. С первого же раза идет в районе 100-120 мбпс. С сервера сейчас чанки закачиваются в районе 36-53 мбпс, но проблема все равно имеет место быть.

Сегодня решил баловаться снятием трафика с порта и ловить момент наступления этой самой "дырки" в графиках. Получилось. В момент "тишины" я вижу из странного только то, что обрывается связь с сервером на 89 порте. Обрыв на графике был в 11:13:10 до 11:13:30. В этот момент оборвалось соединение к вашему серверу на 89 порте и уже на 30 секунде пошло все закачиваться снова.

У вас там что-то важное бегает или это не относится к возможной проблеме ?

 

[Proctor99]

на 89 порту у нас всяедный прокси.

Это уже зацепка, хотя и странная, хотябы потому что по LTE у вас без проблем. Сообщите IP с которого просмотр осуществляете, можно в личку.

А еще попробуйте подкинуть другую ссылку в плейлист, вот такого формата:

Спойлер

http://server/STREAM-NAME/index.m3u8?token=YOURSTOKENFROMPLAYLIST

И понаблюдайте за сетью.

Так же интересно как будет себя вести просмотр на каком-то другом сервере.

[romeor]

сейчас Ip 146.255.182.189, т.к. это мобильная технология, то меняется он с каждый ребутом модема, там несколько блоков /24 для nat настроено. Проще по логину, наверное, смотреть. Утром смотрел с e953bb9 (как раз был провал в 11:13). С этого ип мог проскакивать в лог другой акк, т.к. я активировал тест премиума на 3 дня на акке родителей, чтобы тестить на 2х тв одновременно.Не совсем понял, что подставлять в /STREAM-NAME/

токен - ключ - это ясно. сервер тоже ясно.

на других серверах пробовал, аналогичная картина.

также пробовал убирать шифрование на всякий случай.

 

на lte  я не тестил долго, возможно там это тоже случается. lte я привел в пример, как отсутствие бурстов, но как я понял, бурсты ни при чем.

Например сейчас на тв идет не прерываясь уже очень долго. Хотя я ничего не менял. Вполне может быть, что и на lte если долго потестить, будет где-то обрыв.

Изменено 16 ноября, 2022 пользователем romeor

[Proctor99]

26 минут назад, romeor сказал:

Не совсем понял, что подставлять в /STREAM-NAME/

match-premier-hd-orig - например

[romeor]

Если честно, то я уже боюсь, что либо писать на эту тему, но похоже, проблема не 5G. Я вспомнил старое доброе правило "дебага" проблем сетей, говорящее о том, что в первую очередь нужно искать косяки на Layer1 и переключил телевизор (пока один) на wifi. Перезагружал на всякий случай 5G раутер. В общем, буфферизации нет. Отсюда имеем такую ситуацию:

1.  когда буфферит: когда ТВ подключен кабелем к вифи точке доступа и используется 5G аплинк и приложение TiviMate. Кратковременные тесты clouddy наличие проблемы не показали. Там и паттерн трафика другой.
2. когда не буфферит: когда ТВ подключен кабелем к вифи точке доступа и используется fiber аплинк. Когда ТВ подключен по вифи к точке доступа и используется 5G аплинк.

Судя по тому,  что у конкурента uncomp 1HD (на котором больше всего тестил) не буфферит, проблема может быть: 

1. сетевой стек exoplayer, который используется в TiviMate. Может, ему что-то не нравится
2. принцип отдачи чанков вашим сервером не дружит со стеком exoplayer, по какой-то фантастической причине, когда имеется ситуация: 5G - кабель - ТВ.

Возможно, реализация буффера в Tivimate странная. Возможно много чего. Может, стек exoplayer уходит в ступор по какой-то причине (connection time-out) и ждет какое-то время перед следующей попыткой. И когда 2 таких момента происходят либо подряд, либо в очень близкие по времени промежутки, кеш выливается и идет буфферизация, т.к. чанки у вас тяжелые потому, что качество хорошее.

Как вариант, на тяжелых каналах можно попробовать реально почаще отадвать чанки, как вы и предлагали.

Разрабу TiviMate я отписался, но я не верю, что он сможет углубиться в проблему, у него нет моей ситуации и такое воспроизвести - ну такое себе :). Может, exoplayer обновит и выпустит обнову. Может, буффер увеличит.

 

Причем, по вифи тащит те же самые куски, как и по кабелю через оптику - по 90+ мбпс и не потеет.

Я еще понаблюдаю, но если вы решите уменьшить время между чанками, дайте знать. Я потеструю кабель снова.

[romeor]

да, поторопился радоваться. только написал, как все повторилось.

[Proctor99]

То что вы пишите сюда - это наоборот хорошо. У нас там еще стоит защита от частых перезапросов плейлиста, но ваших IP я там не нашел. 

Я просмотрел лог запросов, вижу, что у вас как-то странно плавает IP. обычно он +- статически до перезагрузки роутера. А у вас он может измениться прямо посреди просмотра какого-то канала. То-ли это вы переключали источники, то-ли включали другое устройство из другой сети.

Попробовали применить настройки на горячую, не подцепились. Видимо надо перезапустить сервер, попробуем ночью сделать. 

И еще хотел немного расспросить о характере провалов. они происходят сразу после переключения канала или же именно в процессе просмотра через какое-то время?

[romeor]

Привет,

Я переключаю сейчас много чего и часто. У меня два провайдера (вернее один, но две разные технологии доступа), два аккаунта премиум у вас (временно, пока 2) и еще разные акки 3х представителей Iptv; у нас много клиентов (около 200 гбпс трафика все-же в пиках и это только транзит), люди смотрят разных, нужно иметь представление о том, что происходит у людей. Идти по пути блокировок провайдер по своей воле никогда не собирается, да и бессмысленно это, в век ВПНов,  а люди смотреть хотят то, что хотят.  У одного  провайдера статический ip адрес, который у вас как раз "+-" постоянный, второй 5г - там с каждой перезагрузкой рутера смена ип. Плюс сейчас с моих ип второй акк родителей появляться может. И тоже с разных ип адресов. Прямо посреди просмотра - это как раз ловлю момент, когда появляются провалы на графике и перехожу на оптику (для меня это по факту просто смена правила маршрутизации, никаких физических переключений не делаю, поэтому быстро это). То есть я уже убедился, что это не у вас проблема со мной, а у меня с вами на 5G :). Почему такого не происходит у конкурента - я не понимаю, т.к. с сетями я на "ты", а вот технологии передачи медиа а ля hls и т.п. - от этого я, мягко говоря, далек. Это вам проще у них взять тест и сравнить с вашим решением, в чем там отличие. Но факт остается фактом, на 5Г буфферило. НО.

Но вот пока что всплыл, похоже, более реалистичный вариант проблемы. У нас один из EPG (не программа передач, в мобильных сетях хрень такая, по большому счету рутер с продвинутыми мозгами и функциями :) ) старый, один - новый. Сидел дергал свой 5Г рутер и смотрел, какие IP он получает, потом смотрел, на каком из EPG нахожусь. Оказалось, что проблема с буфферизацией совпадает с подключением на старый EPG. Я, конечно, 100 раз модем не резетил, но раз 10 собрал статистику. Как выяснилось сегодня после разговора с товарищами с мобильного отдела, там и другие проблемы есть с ним, он не дает больше 500 мбпс по 5G, например, хотя новый 860 мбпс в полевых условиях без проблем дал. Старый EGP все равно в ближайших планах заменить на новый, но пока что мой модем залочили к новому, чтобы потестить, будут ли еще проблемы. Поэтому с сегодня начинается всё тестирование заново. Но пока со вчерашнего вечера всё ок. 

То есть проблема очень специфичная оказалась и она бы не всплыла, если бы у вас и этого конкурента совпадали бы настройки отдачи кусков. Тут сошлось много разных факторов, возможно даже устаревшее наше оборудование, которое так и так на замену,  возможно его софт. Так что тут даже больше вам спасибо за возможность использования вас, как лакмусовую бумажку для проверки нормальности работы сети :) В общем, буду наблюдать дальше.

Конечно, в ваши задачи не входит решать со своей стороны такого характера проблемы, когда одно старое оборудование провайдера по какой-то причине не может прожевать ваши стримы, а новое может, но в любом случае, если есть похожие жалобы на случайную буфферизацию live каналов при абсолютно нормальной скорости до ваших серверов, то можно и капнуть. Возможно, это возникает и в других обстоятельствах и если есть возможность решить с вашей стороны это (чаще отдавать чанки меньшего размера или наоборот реже, но крупнее, чтобы не был частых запросов), то это и вам поможет. Понятно, что премиум пакет требователен к пропускной способности интернета пользователя, но вот тут всплыли и другие нюансы. 

Изменено 17 ноября, 2022 пользователем romeor

[Proctor99]

Понимаете, у нас тут проблема с обратной связью. Мало кто может в деталях разобраться. Для обывателя - не работает, значит не работает именно у нас. 

Если плохая скорость к серверу, то это у нашего сервера плохая скорость, а не интернет-провайдер пользователя не тянет. 

Кстати, по логу у вас и у родителей настроено все на одном плейлисте, было бы неплохо разделить для чистоты эксперимента. Потому что если кто-то другой вклинивается в просмотр - то сервер сбросит старого клиента, т.к. новый был уже подключен. 

А еще я бы посмотрел в сторону лога на самом маршрутизаторе, возможно у него какие-то затыки при распределении куда какой пакет слать (гипотеза). 

[romeor]

3 minutes ago, Proctor99 said:

Кстати, по логу у вас и у родителей настроено все на одном плейлисте, было бы неплохо разделить для чистоты эксперимента. Потому что если кто-то другой вклинивается в просмотр - то сервер сбросит старого клиента, т.к. новый был уже подключен. 

Как это ? У родителей 2 коробочки с разными плейлистами (пакет на обеих HD) и 1 премиум тест, который я на них оформил для себя (я не могу к имеющемуся премиуму взять еще 1 премиум на тест, к сожалению). Они их даже смотрят одновременно, всё работает. Я вроде отдельный плейлист брал из закладки "Устройство 2"

4 minutes ago, Proctor99 said:

А еще я бы посмотрел в сторону лога на самом маршрутизаторе, возможно у него какие-то затыки при распределении куда какой пакет слать (гипотеза). 

Наблюдал за этим сразу же, т.к. в vrf микротика, который у меня дома стоит, я не верю :) Но там всё чисто было. Я, также, для чистоты эксперимента отключал от него всё и делал полный сброс, после чего оставлял только 5G на нем и было то же самое. Далее, переводил 5G Zyxel приблуду в режим моста, чтобы с нее убрать вообще всё (раутинг, нат, фаервол), чтоб она была тупой-тупой. Не помогло. Пока что склоняюсь к совпадению глюка нашего старого EPG  и вашим способом отдачи чанков. Просто так вот совпало, что мы что-то прожевать не можем :). 

 

8 minutes ago, Proctor99 said:

Если плохая скорость к серверу, то это у нашего сервера плохая скорость, а не интернет-провайдер пользователя не тянет. 

Ну, тут всё сложнее. Там транизитные еще есть. За путями никто 24/7 не смотрит. Мне datapacket пошли на встречу и изменили путь от s04 до нас через швецию, было через англию и плохо всё было. Тут столько нюансов, что проблема реально может быть не у вас и не у клиента :)

[Proctor99]

2 часа назад, romeor сказал:

У родителей 2 коробочки с разными плейлистами (пакет на обеих HD) и 1 премиум тест

значит я не правильно понял ваши слова

Цитата

Плюс сейчас с моих ип второй акк родителей появляться может.

 

2 часа назад, romeor сказал:

Тут столько нюансов, что проблема реально может быть не у вас и не у клиента

Это да, регулярные проблемы то у Retn, то cogent.. 

[romeor]

6 hours ago, Proctor99 said:

И еще хотел немного расспросить о характере провалов. они происходят сразу после переключения канала или же именно в процессе просмотра через какое-то время?

абсолютно в случайном порядке. и в начале могут появиться, и после продолжительного просмотра.

Кстати, не в EPG дело. сейчас перезагрузил, опять пошло.

[romeor]

скажем сразу после ребута качается медленно, но почти постоянно. Потом переходит на более редкие загрузки, но более быстрые. и вот с этого момента начинаются танцы в случайном порядке. Могут сразу, могут через какое-то время. Когда "дырка" одна - ок, когда две подряд - буфферит.

 

у меня, в принципе, идеи закончились. В пондельник получу другой модем на тест ( от другого производителя), посмотрим-с, что там покажет. Но что-то я не верю в чудеса, т.к. я уже переводил модем в режим моста и легче не становилось. Если, конечно, там каких-то фундаментальных косяков нет.

Изменено 17 ноября, 2022 пользователем romeor

[romeor]

Кажется, что это больше, все-же софтварная проблема

а)  проблема exoplayer (его использует tivimate) или настроек оптимизации exoplayer и мобильного интернета, как способа свзяи.

б) проблема оптимизации отдачи чанков

в) комбинация этих двух

Причем, на некоторых каналах буфферит чаще, чем на других. Сравинивал: 1HD, Россия1, Матч премьер HD, Eleven Sports 4k. Первый и Россия1 буфферят чаще, Ну и учитывая, что есть источники стримов, которые не буфферят совсем на этих же каналах, то как бы все-же к вам вопрос больше остается. :)

Возможно, стоит все-же более тяжелые чанки отдавать и пореже?Или наоборот чаще отдавать.  На обжатых каналах совсем не буфферит. Мне кажется, что это прям вот в ваших силах исправить и зря всю контору сейчас поднял на уши :). У вас у кого-то есть возможность проверить в мобильной сети tivimate  и премиум плейлист ?

Изменено 18 ноября, 2022 пользователем romeor

[romeor]

чисто в рамках теста.. вы можете запустить тот же первый на 4 сервере отдельным потоком с измененными настройками чанков ? А я тестить буду :) 

[romeor]

On 11/16/2022 at 12:33 PM, Proctor99 said:

http://server/STREAM-NAME/index.m3u8?token=YOURSTOKENFROMPLAYLIST

оно так добавляется, но нигде не отображается. То есть не посмотреть ничего.

[Proctor99]

И еще вопрос в догонку: TiviMate настроен как Xtream Codes или по плейлисту?

[romeor]

Настроен по плейлисту ТВ и по xtream медиатека. Каналы xtream отфильтрованы.

[Proctor99]

К сожалению, не подхватываются настройки ПО. Как было 5 секунд на чанк, так и осталось. Видимо это какое-то минимальное значение. Для SD каналов чанки вообще по 7 секунд. Будем думать, что можно предпринять на нашей стороне. 

[romeor]

а если сделать как на sd?

[romeor]

кстати, мы создали рабочую группу и сделали тесты уже и с другими модемами и на других локациях (к другим мобильным станциям подлкючены модемы). Проблема есть и она немного глубже, чем мне показалось. На смом деле блокируется полностью интернет на том устройстве, через который играет tivimate родным плеером (exoplayer). Но другие устройства за тем же рутером работают нормально.

Сейчас осталось найти - это в нашей сети проблема или exoplayer что-то делает с устройством. Есть другие приложения, и там такие же паузы с полной блокировкой. т.к. не известно, какой плеер там используется, пока не ясно точно - это плеер или сеть. думаем, копаем.

[romeor]

В общем, похоже, что это проблема либо exoplayer, либо okhttp сетевого стэка от него. Я не знаю, будет ли разраб tivimate добавлять и когда cronet, как он мне отписался в почту. Если внимательно посмотреть на график трафика по оптике, то там тоже видны 10+ секунд паузы между закачками чанков. Но т.к. оптика по природе быстрее любого Гэ, то плеер успевает сгрызть еще куски до того, как начнет буфферить. У конкурента чанки все-же легче, там пики по 40-45 мбпс. Кстати, если довольно долго смотреть даже обжатые каналы, то эта же проблема возникает и там (у родителей пакет ваш HD). Если включить Clouddy, который используетс библиотеку vlc, то там все красиво. Каждые 2-3 секунды плеер бежит за чанком и таких дыр нет, даже как на картинке с оптикой.

Также, отослал разрабу вот это: https://www.folkstalk.com/tech/how-to-fix-errors-with-timeout-on-okhttp-client-example/ очень похоже, что может помочь, но будет ли он заниматься - я не в курсе опять же. Пока что выходит, что tivimate или другие плееры, использующие exoplayer, не особо хорош при использовании нестационарного соединения.

Вот просмотр 1HD через Clouddy. Все четко, никаких провалов.

То есть тут либо править плеер, либо как-то заставлять ваше сервера отдавать либо чаще чанки, либо меньшего размера, иначе в tivimate смотреть невозможно при использовании мобильного тырнета. Причем, коллега столкнулся с такой ситуацией, когда после вот такой вот дыры в графике, как выше указаны,  у него вообще пропал интернет на коробке, где играл tivimate. Что-то в нем крашится походу, как это задебажить я не знаю.

Изменено 5 декабря, 2022 пользователем romeor

[romeor]

с другой стороны, вот 4К канал конкурента через tivimate. Пики тоже под 80Мбпс, а запросы идут часто и ровно. Скорее всего, с вашей стороны есть точно возможность влиять на эту ситуацию, а вот где она - я не знаю.

[romeor]

интереса ради посмотрел с s03. картина такая же. через какое-то время после просмотра появляется первый одиночный затык, потом два подряд и буфферизация тв.