Zacznij od rzeczy prostych.
Zestaw działa, nie jest źle. Głównym problemem jest zasięg.
Po pierwsze warto zmienić anteny. Masz tam proste "baciki", które są raczej nieszczególnie efektywnym typem anteny.
Ewentualnie kamera może mieć nieco lepszą antenę, ale małą.
Pierwsza rzecz to poprawa jakości anteny odbiorczej. Warto ją wymienić na antenę typu koniczyna, dopasowaną do pasma 5.8 GHz.
Są gotowe anteny tego typu, można też w sieci znaleźć wiele poradników jak taką antenę wykonać samemu - w różnych ustawieniach dipoli, ale ciebie będzie interesować raczej antena dookólna. Czyli np. tzw. "koniczynka".
Gotową anteną warto umieścić wysoko, np. na kiju od szczotki czy teleskopowym kijku malarskim. Z odbiornikiem łączysz ją koniecznie za pomocą ekranowanego przewodu typu RP-SMA z założonymi końcówkami dopasowanymi do końcówki anteny i odbiornika.
Druga sprawa - słowem nie wspomniałeś, jakiego typu kamery z nadajnikiem używasz. Jest ich wiele typów, od 2 mW do ponad 600 mW mocy nadawczej. A to ma wpływ na zasięg. Antena o małej mocy, będzie też miała mały zasięg.
W twoim wypadku nie schodziłbym poniżej 200 mW i raczej nie ma sensu dawać więcej niż 400 mW. Z dobrą anteną, 200 mW, może dać nawet 300-400 metrów zasięgu.
Choć przy ziemi ten sygnał zawsze będzie słabszy.
I tu również, antenę od kamery, przeniósłbym, za pomocą ekranowanego kabla, możliwie wysoko, dorabiając np. prosty maszt z plastiku, drewna czy włókna szklanego. Raczej unikałbym tu włókna węglowego, gdyż nie lubi się ono z sygnałem radiowym.
Na szczycie masztu - tak przy najmniej mającego te 50 cm, umieściłbym samą antenę typu "koniczynka", podłączoną do kamery. tu raczej trzeba będzie lutować przewód do wyjścia anteny w kamerze. Pamiętaj o ekranowaniu.
To jest w miarę tanie i proste rozwiązanie. Kabel RP-SMA nie jest drogi, a potrzeba go 2-3 metry. Do tego kilka konektorów SMA, jakiś kij i ewentualnie gotowa antena 5,8 GHz lub samoróbka wg tutoriala z sieci (tu przestrzegaj wymiarów - na tej częstotliwości nawet 1/10 mm różnicy w długości części czynnej anteny może mieć znaczenie).
Zestaw tego typu, trzeba przed użyciem przetestować w kontrolowanych warunkach, np. na łące, by sprawdzić zasięg i różne pozycje anten.
Inna opcja to umieścić kolorowe diody na burtach łodzi, w różnych kolorach.
To by znacznie poprawiło widoczność na wodzie i ułatwiło orientację, bez konieczności stosowania "wspomagania".
Diody typu "taśma LED", mogą być zasilanie bezpośrednio z akumulatora 3S LIxx lub 10S NIxx. wystarczy odgałęzienie i pstryczek, z ewentualnym bezpiecznikiem. Są tanie i widać je z dużej odległości.