当然，塔罗牌真正的起源，到目前为止仍是个谜，但若是以相似的纸牌而言，最早应可追溯到14世纪的意大利及法国。

据我们所知，目前最早有纪录的塔罗牌是在1392年，只保留了17张牌。一般相信，它们是应法王查理斯四世要求而绘制。但是后来发现，其实它们实际上是更晚（15世纪中叶）意大利威尼斯的纸牌。现在最早以及最完整的塔罗牌是在1422年由一名意大利画家所绘，也就是我们熟知的“威斯康提塔罗牌”。

我们一般看到由78张所组成的塔罗牌共分为2部分：22张的“大阿卡纳”（也就是塔罗牌的原型。像是恋人、死神及审判等）和56张的“小阿卡纳”（4组各有1—10的牌以及4张宫廷牌），这种组合方式便是起源于“威尼斯塔罗牌”或是“皮曼特塔罗牌”。但早期的塔罗牌有数种不同数目的形式。以下是一些欧洲早期的塔罗牌：

1.威尼斯塔罗牌：和目前的塔罗牌结构相同（一般称为伦巴底塔罗牌）

2.曼太尼亚塔罗牌：由50张牌以及25张指导牌所组成。

3.波伦亚塔罗牌：没有宫廷牌。（所以全部只有62张牌）是由比萨王子所创造。

4.佛罗伦斯塔罗牌：由98张牌所组成，在大阿卡纳中增加了代表黄道十二宫、四元素（地、水、火、风）和四种主要道德（希望、谨慎或节俭、信仰或信任、慈悲。后来这些牌转化为节制、力量和正义）的牌。

有证据显示，在14世纪前的塔罗牌牌义中，便描述过这些象征意义，像是魔术师、教皇、恶魔和审判，这些塔罗牌义充满中世纪的风格；而其他的塔罗牌，像是女教皇和月亮，则是属于非基督教的风格了。

最初，塔罗牌是被用来当做游戏的卡片，我们目前的游戏卡片（像是扑克牌）实际上也是由塔罗牌演变而来。在目前的意大利，仍然有一种使用大阿卡纳名叫tarocchi的游戏。随着时间的过去，塔罗牌在今日被广泛使用在预测未来的事情上。

在15世纪间，塔罗牌的传播速度是极为有限的，因为纸牌均需经由手工绘画而成；但是随着印刷技术兴起，使塔罗牌变得容易取得。在16世纪，一种“马赛塔罗牌”被广泛地使用。

塔罗牌，特别是22张大阿卡纳，有属于它们自己的秘密社团（组织），而这些在18世纪前便成为一门神秘学（像是卡巴拉、炼金术、魔术仪式和预言占卜等）。

19世纪法国的神秘学者列维研究卡巴拉和塔罗牌之间关系密切。虽然在他之前便有人提出这个构想，但是他把这些关系和神秘学相互结合，于是卡巴拉的塔罗牌系统便成为塔罗牌主要的发展，并被西方的神秘学所运用。19世纪和20世纪早期，神秘学再度兴起，和塔罗牌或是其他神秘学研究有关的社团在此时蓬勃发展。在金色曙光社团中颇有影响力的一位人士爱德华·韦特（原先属于英国玫瑰十字会的成员，后来离开并影响创造了两种广受欢迎的塔罗牌系统——“莱德·韦特塔罗牌”和“透特塔罗牌”，在1910他所出版的《塔罗之钥》一书中指出：“真正的塔罗牌是一种象征。”之后，他指导一个会员史密斯构思了一副塔罗牌，也就是我们现在看到的“莱德·韦特塔罗牌”（莱德是出版的厂商）。“菜德·韦特塔罗牌”中，充满着神秘的符号，并结合了卡巴拉中重要的象征意义，以及占星学和炼金术。