В Хорезме его стали называть «князем врачей». В 1008 г. после отказа Ибн Сины поступить на службу к султану Махмуду Газневи благополучная жизнь сменилась годами скитаний. Некоторые работы он писал в седле во время долгих переездов. В 1015–1024 гг. Ибн Сина жил в Хамадане, сочетая научную деятельность с участием в политических и государственных делах. Эмир Шамс ад-Давл настолько высоко оценил таланты Ибн Сины, что назначил его на должность визиря. Завистники начали плести интриги, но эмир не пожелал казнить Ибн Сину, хотя сместил с должности и изгнал из страны. Правда, через месяц с небольшим болезнь эмира обострилась, и владыка отыскал ученого, осыпал милостями и вновь сделал своим министром. До самой смерти великий ученый так и не смог вернуться на родину, скитаясь на чужбине из одного города в другой. Он побывал при дворах многих властителей. Он дружил и сотрудничал с известным на Востоке медиком и ученым Масихи: работал в его лаборатории, принимал больных, делал хирургические операции. Вместе с Бируни Абу Али занимался астрономией. А в свободное время писал свои труды и поэмы. В этот период появилась книга «Среднее сокращение по логике», затем «Совокупные наблюдения» и философский труд «Появление и возвращение». Но все-таки главным своим трудом Ибн Сина называл «Канон врачебной науки».
Существует множество рассказов о том, как Авиценна излечивал людей от самых разнообразных недугов. Вот один из них. Однажды Ибн Сину пригласили к правителю, у которого долго болел сын. Доктора не могли найти причину болезни и вылечить мальчика. Хусейн же начал лечение незамедлительно, но придворным медикам оно казалось очень странным: врач ходил с мальчиком на прогулки в парк, беседовал, заставлял делать гимнастику, приказал очистить бассейн в парке и учил мальчика плавать, из лекарств давал только укрепляющие. Через несколько месяцев мальчик предстал перед отцом здоровый, бодрый и веселый.