1845-ben született egy kis porosz városkában, a Düsseldorf melletti Lennepben (ma Remscheid, Németország).

Édesapja Friedrich Conrad Röntgen posztógyáros volt, édesanyja a holland Charlotta Contanza Frowein. 1848-ban a családfő áttelepítette a gyárát a hollandiai Apeldoornba, és maguk is odaköltöztek. A fiatal Röntgen ott végezte el magánelemi iskoláját, majd Utrechtben egy ipariskolában folytatta tanulmányait. 1863-ban, érettségi előtt három hónappal kizárták az iskolából tiszteletlenség miatt (egyik diáktársa az egyik tanár karikatúráját rajzolta fel a táblára, amin ő jót nevetett, az alkotót pedig nem árulta el). Megengedték neki, hogy az érettségit magánúton letegye, de ez akkor nem sikerült, mert görögből és latinból is megbukott.

1865-ben Zürichbe ment, és beiratkozott a helyi Műszaki Főiskolára — ez volt az egyetlen olyan főiskola német nyelvterületen, ahová érettségi nélkül is felvették (itt végzett Albert Einstein is). Itt irodalmi és művészeti előadásokat is hallgatott, de végül 1868-ban gépészmérnök diplomát szerzett. Tanulmányai alatt hallgatta Rudolf Clausius előadásait a kinetikus gázelméletről, és egyre inkább a fizika érdekelte. Clausius nyugalomba vonulása után az egyetem fizikai katedráját August Kundt kísérleti fizikus töltötte be, és bevezette a fizika laboratóriumi gyakorlatokat. Ezeken figyelt fel Röntgen tehetségére, és rábeszélte, hogy tegyen doktori vizsgát fizikából. 1869-ben lett doktor; disszertációjának címe „Studien über Gase” volt. Az értekezésben szereplő vizsgálatokat tanára, August Kundt laboratóriumában végezte el. A cím megszerzése után Kundt asszisztense lett.

1869-ben Kundttal együtt ment át a würzburgi egyetemre, de a fizetése oly csekély volt, hogy apjának rendszeresen támogatnia kellett. 1870-ben publikálta első tudományos értekezését az „Annalen der Physik und der Chemie” folyóiratban.

1872. január 19-én háromévi jegyesség után Apeldoornban összeházasodott Anna Bertha Ludwiggal, egy zürichi vendéglős lányával.

Mivel Röntgent (azzal az indokkal, hogy nincs érettségije) Kundt javaslata ellenére sem nevezték ki magántanárnak, Kundt 1872-ben elhagyta az egyetemet, és Röntgennel Strasbourgba ment. Ott 1874. március 14-én Röntgen megkapta a magántanár címet, és az oktatási engedély birtokában 1873–1874-ben a hohenheimi mezőgazdasági főiskolára került rendes tanárnak. A professzori címet is megszerezte fizikából és matematikából. Mivel az egyetemnek nem volt fizikai laboratóriuma, 1876-ban visszament Strasbourgba mint a fizika professzora, az elméleti fizika magántanára, és folytatta kísérleteit Kundttal.

1879-től a Gießeni Egyetem kísérleti fizika tanszékét vezette. 1887-ben feleségével örökbe fogadták az akkor hatéves Josephine Bertha Ludwigot, felesége bátyjának lányát.

1889-ben elvállalta a Würzburgi Egyetem fizikai intézetének vezetését; 1894-ben az egyetem rektorává választották.

1900-ban a bajor kormány felkérésére a Müncheni Egyetemen lett a fizikai intézet igazgatója, egyúttal a fizikai-méréstechnikai gyűjtemény vezetője.

1901-ben elsőként kapta meg a fizikai Nobel-díjat. A kapott díjjal járó összeget a Würzburgi Egyetemnek ajánlotta fel, ám az az 1923-as pénzromlásban elinflálódott.

Az első világháború alatt Amerikában tartózkodott, majd a háború után visszatért Münchenbe. Felesége 1919-ben halt meg. Röntgen 1920-ban vonult részlegesen nyugdíjba, csak a gyűjtemény vezetését tartotta meg.

A háború után rendkívül szűkös anyagi körülmények közé kényszerült, hiányosan táplált Röntgen szervezete nem tudott ellenállni az emésztőrendszerét megtámadó betegségnek, és 1923. február 10-én meghalt bélrákban. Elképzelhető, hogy a betegség kialakulásában közrejátszottak kísérletei.

Végrendeletét végrehajtva minden levél-, illetve kézirat jellegű irományát elégették.

Zürichben közreműködött Kundt kutatásaiban, az ozmózis jelenségét kutatták közösen, Würzburgban pedig a levegő fajhőjét mérte állandó nyomáson és térfogaton. Ez utóbbiról írta első tudományos értekezését, mely az Annalen der Physik und Chemie folyóiratban jelent meg.

Miután különvált Kundttól, Röntgen mindig magányosan, szinte titkolózva dolgozott, gyakorlatilag senki sem tudta, hogy mit csinál éppen. Mivel a röntgensugárzás némely hatásait más kutatók is észlelték (bár nem tulajdonítottak ezeknek jelentőséget), a tudományos közéletben különféle, Röntgen elsőségét kétségbe vonó mendemondák kaptak szárnyra. Mivel a döntő felfedezésnek nem voltak szemtanúi, magáról a kísérletről pedig Röntgen meglehetősen bizonytalanul, olykor magával is ellentmondásba keveredve számolt be, élete végéig védekeznie kellett a gyanúsítások ellen.

Korszakalkotó felfedezése miatt elsőként, 1901-ben ő kapta meg a fizikai Nobel-díjat.

Az ő nevét viseli a besugárzási dózis alapegysége, a röntgen (1 R=0,000258 C/kg).