传国玉玺相传由秦始皇所制。公元前221年，秦始皇灭六国统一中国后，命人以蓝田玉为材料琢出了一块传国玉玺。又命丞相李斯在其上篆“受命於天，既寿永昌”八个虫鸟字，由玉工孙寿刻到上面，将之作为皇帝继位的凭信，打算一代一代传下去。另也有说法称此传国玉玺取材自和氏璧。从此，这个四寸大小的传国玉玺便成了历代皇帝作为正统继承者的标志。
秦灭汉兴，传国玉玺被献给汉高祖刘邦。西汉末年，两岁的皇帝刘婴登基，传国玉玺由王莽的姑母汉孝元太后代管。王莽篡权后，命大臣王舜向孝元太后索取传国玉玺，孝元太后虽为王家人，却忠心于汉朝，不肯交出。被逼不过，孝元太后一怒之下将这个宝贝掷在地上，据说玉玺的一角因此被摔掉了。后来王莽用黄金镶补，尽管手艺精巧，但玉玺终归是留下缺角之痕。
后来，光武帝刘秀从王莽手中夺回玉玺。东汉末年天下大乱，关东各路诸侯讨伐董卓时，率先攻入洛阳城的孙坚从井中捞出的宫女尸身上找到一只红色匣子，匣中之物正是传国玉玺。之后孙坚之子孙策为向袁术借兵马，将之献于袁术。袁术兵败后，玉玺又落到曹操手中。之后，经过魏、西晋、前赵、冉魏、东晋、宋、南齐、梁、 北齐、周、隋、唐，至五代时期失去踪影。
有关玉玺的失踪详细说法，现时有三种：一种说法认为乃是后唐末帝李从珂在洛阳被契丹人攻破之际，怀抱传国玉玺在玄武楼上自焚，玉玺自此下落不明；另一说则认为946年后晋出帝被辽太宗捕获之时玉玺丢失；但还有一说则认为传国玺一直传到了元朝，是在元朝末帝顺帝手上失踪的。总之，至今，这个传国玉玺未曾找到。