В 1894—1995 гг., в своем доме вблизи Болоньи, Маркони начал серию экспериментов, направленных на использование электромагнитных волн для связи на расстоянии в системе беспроволочного телеграфа. Он использовал в качестве передатчика осциллятор Риги, в качестве приемника когерер с металлическими опилками.
Когерер представляет собой устройство, сделанное из отпаянной стеклянной трубочки диаметром несколько миллиметров, в концах которой располагаются два серебряных цилиндра, разделенных коротким промежутком. Каждый из цилиндров соединен с платиновой проволочкой, проходящей через расплавленное стекло наружу. Между цилиндрами засыпаются металлические опилки (никель или серебро). Эти опилки (зерна) обладают значительным электрическим сопротивлением, но когда они подвержены действию электромагнитной волны, то сцепляются (отсюда и название: cohere — быть сцепляемым, склеенным), т.е. выстраиваются в направлении электрического тока, и их сопротивление резко уменьшается. Это явление уже было открыто в 1884 г. Т.К. Онести (1853—1922) и было использовано Маркони, который усовершенствовал устройство лучшим подбором материалов и, добавив молоточек, который после каждого импульса электромагнитной волны автоматически восстанавливал первоначальное сопротивление (встряхивал опилки), что делало устройство готовым для регистрации следующего импульса. Также французский физик Э. Брэнли (1844—1940) в 1890 г. наблюдал, что металлические опилки в стеклянной трубке изменяются от непроводящего состояния к проводящему, когда на некотором расстоянии происходит электрическая искра. Вероятно, это свойство так никого и не заинтересовало, если бы эта трубка, содержащая опилки, позднее названная английским физиком Оливером Лоджем когерером, не стала существенным элементом первых радиотелеграфных приемников, благодаря его использованию Маркони. Это вызвало волну претензий на авторство среди К. Онести, Брэнли, Лоджа и Попова, российского физика, который использовал его с той же самой целью.
После более или менее удачных экспериментов, известных к тому времени, и позволяющих сигналам передаваться на расстоянии в несколько метров, в августе 1895 г. Маркони выяснил, что для наблюдения заметных эффектов на расстоянии нужно соединить конец осциллятора, а также схему приемника с одной стороны закопанным проводником (земля), а с другой стороны изолированным проводником (антенна), который следует поднять как можно выше над землей. Это блестящее изобретение системы антенна—земля позволило уверенно принимать телеграфные сигналы на расстояниях до 2400 м. Удивительно, что сигналы регистрировались на другой стороне холма, расположенного между системами передачи и приема. В одном из этих экспериментов брат Маркони подтвердил прием на другой стороне холма выстрелом из ружья, что вошло в легенду об изобретении Маркони.
Этот успех убедил молодого человека, что идея заслуживает патента. Итак, с помощью своей матери, которая всегда поддерживала его, и, преодолев скептицизм отца, Маркони отправился в Англию. Там с помощью двоюродного брата со стороны своей матери, Дж. Дэвиса, который держал консалтинговую фирму в Лондоне и был хорошо известен среди лондонских инженеров, он сумел привлечь интерес к своему изобретению со стороны технического генерального директора Британского почтового ведомства, В. Пирса, который к тому времени стал бароном. В результате Маркони 2 июня 1896 г. получил первый патент на систему нового беспроволочного телеграфа. В то время Великобритания занимала ведущее положение в области проводной телеграфии. Это касалось и доминирующей роли британских компаний, осуществлявших прокладку и эксплуатацию трансконтинентальных линий. Так что выбор Маркони был, несомненно, удачен во всех отношениях. Между июнем 1896 г. и мартом 1897 г. Маркони выполнил ряд экспериментов от имени Почтового ведомства, что было разрекламировано тем же самым Пирсом. В 1897 г. Маркони организовал Wireless Telegraphic and Signal Co Ltd, в которой его кузен Дэвис стал первым административным директором. 2 июля 1897 г. был получен полный патент, который в наиболее подробной форме описывал его изобретение. Его получению способствовали два юриста, один из которых хорошо разбирался в области электрических технологий, а другой изучал физику и математику в Кембридже.
Маркони осуществил первую беспроволочную связь (радио) между Англией и Францией в марте 1899 г., что вызвало интерес во всем мире к его экспериментам, а 12 декабря 1901 г. установил связь между США и Великобританией на расстоянии 3200 км, осуществив, тем самым, первую трансатлантическую радиосвязь. Этот результат вызвал удивление и изумление. Дело в том, что для реализации связи на английском побережье была сооружена огромная антенна из проводов высотой 61 м и диаметром 61 м, а на американском побережье также была построена антенная система, что потребовало годы напряженной работы. Так вот, обе эти антенны были уничтожены во время шторма, и Маркони начал использовать для передачи антенну значительно меньших размеров, а антенна приемника поднималась на воздушном змее.
Сразу же после этой сенсационной радиосвязи О. Хэвисайд (1850—1925) в Англии, А.Е. Кеннеди (1861-1939) в США и Х. Нагаока (1865-1950) в Японии, независимо друг от друга выдвинули в 1902 г. гипотезу, что высоко в атмосфере существуют области, отражающие радиоволны. Только эта гипотеза могла объяснить, почему прямолинейно распространяющиеся электромагнитные волны способны обогнуть Землю. Ее достоверность была экспериментально подтверждена Е. В. Эплтоном (1892—1965), который в 1925 г. нашел, что на высоте между 100 и 200 км слои обладают электрической проводимостью из-за того, что молекулы газа ионизируются различными агентами. Радиоволны, отражаясь от этих слоев, осуществляют связь вне пределов прямой видимости. Эплтон был награжден в 1947 г. Нобелевской премией по физике «за его исследования верхней атмосферы и, особенно, за открытие т.н. слоя Эплтона».
Хотя в своих экспериментах в 1896 г. Маркони использовал микроволны (т.е. волны длиной порядка нескольких сантиметров), впоследствии он использовал более длинные волны и с ними сделал первые главные географические связи. Так он вначале полагал, что электромагнитные волны могут достигать приемной антенны только благодаря дифракции, распространяясь вокруг поверхности земли и очень близко к ней. Поэтому он считал нужным стремиться к более длинным волнам. Он был убежден, что для увеличения расстояния связи требуются длинные волны и, чтобы получить их, требуется более мощные машины. Только в 1916 г. он возобновил эксперименты с короткими волнами, которые в 1920-х гг. были отданы радиолюбителям, поскольку считалось, что они не имеют коммерческой ценности.
Маркони также проделал много экспериментов в Италии. Он предоставил правительству Италии безвозмездно пользоваться его патентами и получил разрешение установить его аппаратуру на крейсере Carlo Alberto, на котором король Витгорио Эммануил путешествовал с июля по сентябрь 1902 г., из Неаполя в Кронштадт, чтобы нанести визит царю Николаю II. Во время плавания Маркони обнаружил, что дистанция связи увеличивается ночью и уменьшается днем: еще одно явление, связанное с наличием слоя ионизированной атмосферы вокруг Земли. Позднее, осенью, он на борту того же крейсера выполнил новые эксперименты во время плавания из Англии в Канаду. Когда в 1916 г., во время Первой мировой войны Итальянский флот обратился к Маркони с просьбой изучить возможности нового устройства для радиосвязи во флоте, причем ставились условия защиты от перехвата сообщений противником даже на ограниченных расстояниях, Маркони вернулся к коротким волнам, принимая во внимание определенную роль, играемую ионизованными слоями. Между тем были изобретены электронные лампы, что привело к замене искровой техники.