Шумлянський подав також план упровадження унії в Україні. Він полягав у тому, що прийняття унії ним і його прибічниками мало б триматися в таємниці, бо українська шляхта і братства, дізнавшись про це, відмовилися б слухати єпископа. Пропонувалося також заборонити світським віруючим листуватись із закордонними адресатами, запрошувати на уніатські з'їзди православних і закладати нові монастирі для мандрівних ченців. Однак головним пунктом цього плану була вимога надати православним рівні права з католиками та уніатами, затвердивши це на сеймі й тим самим зацікавивши "схизматиків" у переході до унії. До речі, перше прохання Й.Шумлянського про урівняння в правах православного й католицького духівництва датується ще 1670 роком, коли король Михайло Корибут пішов йому назустріч і надав певні привілеї православній Церкві. Слід відзначити, що саме цілеспрямована діяльність львівського єпископа сприяла включенню до тексту польсько-московського "Вічного миру" 1686 p. статті, в якій говорилося: "... що його Королівська величність, не звелить чинити ніякого утяження й примусу до римської віри і до унії божим церквам єпископи Луцької, Галицької, Премишльської, Львівської... та всім людям (православним - авт.), що живуть у Короні Польськщ і у Великому Князівстві Литовському". Зважаючи на клопотання Й.Шумлянського, 10 липня 1686 р. Ян III Собеський видав універсал про звільнення українського духівництва королівських земель від усіх податей і повинностей, крім "поголовного податку".
У 1689 р. Шумлянський висилає з листами до Москви свого архідиякона П.Ломиковського. У посланнях до московського патріарха, царів Петра й Івана та княгині Софії він прохає, щоб ті підтримали православних віруючих у Польщі. Водночас скаржиться на київського митрополита Гедеона Четвертинського, нагадуючи, що той не був обраний православними Речі Посполитої. Цікаво, що Шумлянський навіть подавав скарги королю на уніатів. "У своєму єпископстві всі монастирі й церкви православні обороняє й до унії не допускає", - свідчили в 1694 р. прибулі до Москви ченці Креховського монастиря.
Вдаючи перед католиками щирого уніата, а перед православними - незламного православного, Й. Шумлянський довго утримувався від офіційного прийняття унії. Саме тому універсалом від 6 листопада 1694 р. польський король наказав йому, іншим священикам, шляхті та міщанам Львівського єпископства в обов'язковому порядку прибути 16 грудня до Львова й прийняти там унію. І хоча на цьому з'їзді Й. Шумлянський спочатку переконував усіх схилитися перед волею монарха, він усе ж таки не відіслав до Варшави декларацію про прийняття унії, оскільки більшість присутніх виступила за збереження православної віри.
Після смерті в 1696 р. свого патрона Яна III Шумлянський у листі до новообраного київського митрополита Варлаама Ясинського пише, що зі смертю короля вмерла унія (!), а він є "сином правдивої церкви Божої православно-східної". Це стало причиною оприлюднення представниками католицької й уніатської Церков таємного акта переходу И.Шумлянського до греко-католиків. У березні-квітні 1697 р. він був внесений до луцького та львівського гродських актів. У відповідь на такі дії своїх ворогів львівський єпископ звертається до керівництва Апостольської столиці. Він вказував на те, що визнання ним влади папи римського призвело б до війни з Москвою і Гетьманщиною, а це викликало б руїну Речі Посполитої. Обіцяючи подати явну декларацію на найближчому сеймі, Шумлянський знову висунув певні умови, головна з яких полягала в утворенні в Короні Польській окремої галицької митрополії.
6 червня 1700 р. львівський єпископ Й.Шумлянський офіційно прийняв унію у варшавському костелі Капуцинів з рук примаса нунція Яна Антонія Давіа у присутності короля Августа ІІ Сильного, всього складу сенату і великої кількості шляхти. Присутність найвищих осіб держави засвідчувала ту величезну роль, яку відігравала постать Шумлянського у планах католицького Заходу щодо унії в Україні.
Після того, як Август II універсалом від 15 червня 1700 р. зрівняв у правах греко- і римо-католиків, більшість православних Львівського єпископства прийняла унію, хоча в обороні православ'я залишалися Львівське ставропігійне братство та більшість монастирів західноукраїнських земель. Однак і після явного прийняття унії Й.Шумлянський стояв на сторожі прав українського духівництва, сильніше, ніж перед тим, виступаючи проти прийняття греко-католиками латинських обрядів.