[vot]

Если есть возможность, замерь волновое сопротивление коаксиала... Вполне возвожно, что у тебя или какой то Т-коннектор дурит, либо какой то терминатор.
Для данного замера есть прибора, например Fluke