学院的核心人物兼创始人，36岁的萨尔曼·汗（Salman Khan）说了个关于体育的笑话，内容包括勒布朗·詹姆斯（LeBron James，他是汗学员的支持者）、三分球，以及复杂的蒙特卡罗模拟算法（Monte Carlo simulations），恐怕只有那些在麻省理工学院和哈佛大学拿到多个学位的人方能领悟其中的幽默。
2004年8月，萨尔曼·汗答应帮侄女纳迪亚辅导数学作业。纳迪亚在新奥尔良上七年级，她有点跟不上私立学校的数学课。她的主要问题是单位转换，比如将加仑转换为升，将盎司转换为克。
对于当时28岁的汗来说，数学是他的强项。他在美国麻省理工学院的专业之一就是数学，同时学习计算机科学和电子工程课程，获得硕士学位。后来，他又在哈佛大学获得工商管理硕士学位。毕业后，他在波士顿的丹尼尔·沃尔对冲基金公司担任基金分析师，是该公司唯一的雇员。
作为一名技术极客，汗在和纳迪亚通电话时，利用雅虎通的涂鸦功能来图解数学概念。然后，他会编写代码，出一些练习题，让纳迪亚在网上练习，以检查学习效果。在汗的帮助下，纳迪亚的数学进步神速，她的弟弟阿尔曼和阿里也要求汗做他们的家教辅导。随后，他们又带来了一些朋友，汗的网站不断扩大。他将很多概念做成“模块”，并建立数据库，以便跟踪了解每一个孩子的学习进展。
由于雅虎通无法让很多观众同时观看，于是汗开始制作教学视频，并上传到YouTube网站上。这需要使用带有电子笔的Wacom数字白板，要花费约80美元。每段录像约10分钟，包含两部分：黑板上的草图和画外音，对一些概念进行讲解。
2006年11月16日，汗发布了第一段视频，解释最小公倍数的基本概念。很快，其他学生，包括一些成年人，开始搜索和观看他的视频，并给他留言，感谢他拯救了自己的数学学业。
不到5年，制作教学视频已经从汗的副业变成他的职业。如今，他俨然已成网络数学“教父”，他的免费网站很可能是世界上最受欢迎的教育网站。2011年4月，约有200万学生点击访问。相比之下，2001年开放的麻省理工学院开放式课程网站，月均访问量也不过100万人次。
迄今为止，汗学院的视频数量超过2300段，从小学的简单加法到大学微积分课程中的格林定理，内容非常广泛。他正在添加更多领域的教学视频，比如会计、信贷危机、法国大革命、SAT和GMAT考试等。他先自己掌握这些知识，然后传授给他人。他说，截止到2011年今年4月底，已有超过5400万人通过他的网站学习。
斯坦福大学教育学博士生、高中数学教师丹·迈耶说：“如果你在美国教数学，你就不可能没听说过萨尔曼·汗。”