Samtal mellan chefer och regeringstjänstemän ägde rum under de senaste månaderna, och en affär kan eller kanske inte hända, sade tidningen och citerade personer som är bekanta med ärendet som den inte identifierade.
En kombination av Rosneft och Gazprom Neft, ett dotterbolag till Gazprom och Lukoil, skulle vara näst störst efter Saudiarabiens Aramco och skulle kunna pumpa nästan tre gånger den amerikanska oljeproducenten Exxons produktion, tillade rapporten.
Det finns vissa hinder, inklusive motstånd från vissa Rosneft- och Lukoil-chefer och problemet med att samla in medel för att betala Lukoil-aktieägare, säger rapporten.
Lukoil, Rosneft, Gazprom och Kreml svarade inte omedelbart på Reuters förfrågningar om kommentarer, medan Gazprom Neft inte omedelbart kunde nås.
The Journal citerade en talesman för Rosneft som sade att rapporten var felaktig men avböjde att svara på frågor, medan en talesman för Lukoil sade till tidningen att varken bolaget eller dess aktieägare var i fusionsförhandlingar "med några parter, eftersom detta inte skulle vara i bolagets intresse".
Tidningen citerade en talesperson för Kreml som sade att administrationen inte hade någon kännedom om en affär.
Kreml sade förra månaden att man inte kunde bekräfta en rapport om att Rysslands energiminister skulle ha lagt fram ett förslag om att nationalisera energisektorn.
En kanal kallad EJ på meddelandeappen Telegram, som citerade icke namngivna källor, rapporterade att energiminister Sergei Tsivilev hade föreslagit president Vladimir Putin vid ett möte i Kreml att energisektorn - en viktig leverantör av kontanter till staten - skulle nationaliseras.
