Главной проблемой в исследованиях на сканирующем туннельном микроскопе стали фоновые помехи: острие микроскопа, позиционировавшееся с точностью до долей атома, сбивалось от малейших шумов и вибраций даже вне лаборатории. Кроме того, прибор позволял исследовать нанообъекты только на электропроводной подложке.
Современные сканирующие микроскопы позволяют различать размер около 0,01 нм (1/10 диаметра самого наименьшего атома — атома водорода) по вертикали и около 0,2 нм по горизонтали. По сути, это уже не микроскопы, а наноскопы.
В 1980–1981 годах с разработкой метода получения кластеров при испарении с помощью лазера в сверхзвуковых соплах стало возможным экспериментальное получение кластеров с количеством атомов от 40 до 100. Этот метод был специально разработан для детального изучения многоатомных молекул (в первую очередь металлов переходных структур).
При помощи данного способа в 1984 году немецкие ученые впервые получили углеродные кластеры, а профессор Герберт Гляйтер (Herbert Gleiter), изучавший структуры различных конструкционных материалов с 1982 по 1985 год, предложил концепцию наноструктуры твердого тела.
В 1985 году коллектив ученых в составе английского химика Гарольда Крото (Harold Walter Kroto) из Сассекского университета, американских химиков Роберта Флойда Керла (Robert Floyd Curl), Джеймса Хита (James Heath) и Шона О’Брайена (Sean O’Brien) под руководством Ричарда Смолли (Richard Errett Smalley) в университете Райса (США) получил новый класс соединений — фуллерены — и исследовал их свойства (Нобелевская премия за 1996 год). Инициатором поиска был Г. Крото, изучавший лазерное испарение и масс-спектроскопию малых углеродных кластеров.
Открыватель фуллеренов, лауреат Нобелевской премии Ричард Смолли
В результате взрыва графитовой мишени лазерным пучком и исследования спектров паров графита была обнаружена молекула фуллерена С60. Грани 60-атомного фуллерена — это 20 почти идеальных правильных шестиугольников и 12 пятиугольников. Позднее удалось получить фуллерены из 76, 78, 84, 90 и даже нескольких сотен атомов углерода. Ученые также впервые сумели измерить объект размером 1 нм.
То, что более десяти лет назад теоретически предсказывали японец Э. Осава и советские ученые Д. А. Бочвар и Е. Г. Гальперн, нашло практическое подтверждение.
В том же 1985 году немецкий физик Клаус фон Клитцинг (Klaus von Klietzing) получил Нобелевскую премию за открытие квантового эффекта Холла в 1980 году. Он установил, что в сильных магнитных полях плоского проводника (то есть квазидвухмерного электронного газа) начинают сказываться квантовые эффекты. Это приводит к квантовому эффекту, названному в честь американского физика Эдвина Холла (Edwin Herbert Hall). В 1879 году Э. Холл при подготовке докторской диссертации по электричеству и магнетизму открыл в тонких пластинках золота эффект возникновения поперечного электрического поля в проводнике или полупроводнике с током при помещении его в магнитное поле.
В 1986 году Г. Бинниг разработал сканирующий атомносиловой микроскоп (АСМ), позволивший «рассматривать» любые объекты, над которыми двигалась игла датчика. Такой микроскоп, в отличие от туннельного, может взаимодействовать с любыми объектами, а не только с токопроводящими материалами.
К концу 1986 года в лабораториях мира работало уже не менее 40 сканирующих туннельных микроскопов.
Термин «нанотехнология» стал популярен в 1986 году после выхода в свет знаменитой книги Э. Дрекслера Engines of Creation: The Coming Era of Nanotechnology («Машины творения: наступающая эра нанотехнологий») и последующей дискуссии. Несколько ранее им был опубликован ряд статей по этой проблеме, но они не привлекли внимания научной общественности. Оказалось, однако, что этот термин ранее уже был предложен Н. Танигучи, который под нанотехнологиями понимал любые субмикронные технологии. Для обозначения совокупности методов и приемов, обеспечивающих возможность контролируемым образом создавать и модифицировать объекты, включающие компоненты размерами менее 100 нм хотя бы в одном измерении, Дрекслер предложил термин «молекулярная нанотехнология».