Жизнь Раффи в Тифлисе была нелегкой; он еле перебивался уроками и даже служил в магазине готового платья. В 1872 году в Тифлисе начинает издаваться газета «Мшак» («Труженик»), Раффи был приглашен сотрудничать в газете и очень скоро сделался активным участником этого издания. Очерки Раффи о Персии, разного рода критические и публицистические статьи, повести и рассказы и, наконец, романы вскоре создали ему популярность и содействовали успеху газеты среди читателей.
С самого начала своей литературной деятельности Раффи живо интересовался вопросами политического положения армян. Последователь армянских просветителей-шестидесятников, Раффи был поглощен вопросом о судьбе армянского крестьянина. В романе «Хент» он изобразил борьбу армянского народа за освобождение от султанского ига. Руководителями в этой борьбе выступают представители интеллигенции. В будущей Армении, как рисуется одному из героев этого романа, установится коллективная сельская община. Однако общество остается классовым.
После «Хента» он пишет два больших романа — «Воспоминания хачагоха» (хачагох — крестокрад) и «Искры». Герои романа «Искры» стремятся всеми способами — и пером, и оружием — покончить с вековым гнетом армянского народа. Романы «Хент» и «Искры» произвели огромное впечатление на передовую часть армянской интеллигенции. Начали издаваться книги об экономической и культурно-бытовой жизни зарубежных армян. Студенческая молодежь создавала кружки, ставившие целью просветительскую работу среди крестьян.
После берлинского конгресса 1878 года, на котором обсуждался вопрос о положении армян в Турции, прогрессивная армянская общественность переживала разочарование. Потеряв всякую веру с европейскую дипломатию, Раффи все свои надежды возложил на Россию. Писатель обращается к прошлому Армении и создает в течение 80-х годов три исторических романа: «Паруйр Айказн», «Давид-Бек» и «Самвел», а также историческое исследование «Карабахские меликства».
В 80-х годах Раффи уже был признанным классиком. Его популярность как писателя была исключительна. Реакционные элементы постоянно вели против него борьбу. В 1884 году ночью на Раффи было произведено покушение. Через несколько дней в его квартире полиция произвела обыск.
Крупнейший армянский романист А. Ширванзаде в своих воспоминаниях характеризует Раффи как, человека исключительно скромного и поразительно трудоспособного. «Он знал, — пишет А. Ширванзаде, — что талант на три четверги является трудолюбием. Он был подлинным творцом, его мятежная душа находила успокоение лишь в труде».
Усталый от напряженного труда, постоянных материальных лишений, остро переживая участь родного парода, Раффи тяжело заболел весною 1888 года и умер 6 мая, оставив большое литературное наследство, часть которого не опубликована еще до сих пор.
Последнее произведение Раффи, роман «Самвел», как показывают все данные, было предметом особо напряженной работы писателя.
В качестве основного источника для романа «Самвел» послужили «История Армении» известного армянского историка IV века Фавстоса Бузанда. И это не случайно. Именно Ф. Бузанд должен был глубоко заинтересовать писателя-романтика. В труде Фавстоса сохранились элементы древнеармянского эпоса. Живость изложения; драматизм отдельных описаний, пристрастные характеристики выдают современника или почти современника событий. Наконец, ясность языка, приближающаяся к языку народного эпоса, увлекает читателя.
Главным материалом для романа явилась четвертая книга «Истории Армении» Фавстоса. Но Раффи этим не ограничился. Он привлек также соответствующий материал из «Истории Армении» армянского историка IV века Агафангела и известный труд армянского историка V века Мовсеса Хоренаци, а также ряд других произведений писателей древней Армении. Из неармянских источников Раффи использовал греческого историка Ксенофонта (IV в. до н. э.) и греческого географа Страбона (I в. до н. э.). Исключительно добросовестному и умелому обращению Раффи со своими первоисточниками может позавидовать любой историк. Это бросается в глаза не только в той части «Самвела», которая носит несколько необычайное название «В скобках», но и там, где писатель мог позволить себе вольности.