在狭义相对论发表以后，爱因斯坦科学研究的主流就在于探索更广泛的理论，这就是广义相对论。但是这个理论只局限于彼此做相对运动的参考系，而不能用于参考系的一般运动。他力图突破这种限制，设法解决在一般情况中的相对论问题。1907年约翰·斯塔克要爱因斯坦为《放射学和电子学年鉴》写一篇关于狭义相对论的专题论文。在写这篇文章时，他忽然想到，几乎所有自然规律都可以在狭义相对论的框架内加以讨论，而惟独引力定律不行。最令他不满意的是，虽然狭义相对论对惯性和能量之间的关系已经做了明确的阐述，但是对惯性和重量或引力场能量之间的关系并没有阐述清楚。他意识到这个问题不可能在狭义相对论的框架内得到解决。如何下手呢？有一天，忽然有了突破。爱因斯坦在伯尔尼专利局，正坐在一把椅子上，突然一个想法打动了他：如果一个人自由下落，他就不会感觉到自己的重量。他吃了一惊。这个简单的思想实验对他有极深刻的影响，它把爱因斯坦引向了引力理论。他坐在椅子上继续思考：一个下落的人被加速，那么他的感觉和判断就都发生在加速的参考系中。他决定把相对论扩展到有加速度的参考系。他感到，这样做就有可能同时解决引力问题。一个正在下落的人感觉不到自己的重量，因为可看做在他的加速度参考系中有一个新的引力场，它抵消了地球的引力场，在加速度的参考系中，看来需要一个新的引力场。爱因斯坦做了进一步的思考，将思考的结果写入发表在德国《放射学和电子学年鉴》1907年第四卷的《关于相对性原理和由此得出的结论》一文中。在该文的第五部分“相对性原理和引力”中，他一开始就提出一个问题：“是否可以设想，相对性原理对于相互做加速运动的参照系也仍然成立？”也就是说，应该成立一条“广义相对性原理”：即所有参考物体K、K′等不论它们的运动状态如何，对于描述自然现象（表述普遍的自然规律）都是等效的。惯性参照系不应该是自然界中的一种具有特殊地位的参照系。
同时，在该部分，他明确地提出了“等效原理”：引力场同参照系的相当的加速度在物理学上完全等价。所谓等效原理，即认为从时空小范围来看，一个没有引力场的匀加速运动的坐标系同有引力场的惯性系是等价的。也就是说，可以在任何一个局部范围内找到一个坐标系，使引力在其中被消除。其合理性可以通过一个理想电梯实验来说明。比如，一个人处于密闭的电梯内，在地球引力场内让电梯处于静止或匀速运动的状态，此时电梯是一个有引力场的惯性系，电梯内的人受到引力作用，使他的脚同地板间产生的压力等于他的重量。另外再设想若不存在地球引力场，而使密闭的电梯以与重力加速度数值相等的加速度向上运动，此时电梯是一个没有引力场的非惯性系，电梯里的人在惯性的作用下使脚同地板间也产生一个压力，其数值显然也等于他的重量。处于上述两种情况的人将无法区别电梯到底是处于加速运动状态还是处于引力场中。假使处于地球引力场中的电梯绳索断了，那么电梯将做自由落体运动，这时处于密闭电梯中的人将看不到任何引力存在的现象，即处于失重状态。这说明，可以通过选择某种坐标系，在局部范围内使引力完全消除。这个理想实验也说明，任何可以归属于加速参照系的效应都可被看做是一种引力效应。
1913年秋，爱因斯坦从苏黎世前往维也纳出席自然科学家会议。他在这个会议上做了一个关于广义相对论的比较通俗的报告。尽管理论还未最终完成，但爱因斯坦等不及了。
1915年，是爱因斯坦在探索广义相对论的道路上富有成果的一年。他先发表了一篇《用广义相对论解释水星近日点运动》的论文，不用任何特殊假设就成功解释了水星在近日点的运动：每100年大约转43″。他还纠正了1911年计算光线经过太阳附近时弯曲的错误数值083″，新结果比原先大1倍即17″。这年11月，爱因斯坦终于完成了他的广义相对论的集大成论文《广义相对论的基础》，该文发表于1916年的德国《物理学杂志》上。在这篇论文中，他终于得到了正确的引力方程式。从此，他暂时结束了从1907年以来对广义相对论所进行的艰苦卓绝的探索。
现在介绍一下广义相对论。
要了解广义相对论，必须先从牛顿力学谈起。运动三定律和万有引力定律是牛顿力学的两大支柱，狭义相对论已经对运动三定律做了改造，而万有引力定律却还是原封未动。
可是，万有引力定律与相对论之间是有矛盾的。
任何两个物体，大到天体，小到尘埃，不管它们相距有多远，彼此之间都有吸引力。地球和太阳相距15亿多公里，茫茫太空，没有任何传递的媒介，引力是怎样传递到地球上来的？光从太阳传递到地球上还需要8分多钟，而引力的传递却连一秒钟也不要。对于这种超距即时作用的万有引力，实在令人感到难以理解。
引力到底是怎样产生的？广义相对论就要来解开这个谜。在狭义相对论中，光速是速度的极限，没有任何东西的速度能够超过光速，力的传递速度当然也不能例外。可是根据万有引力定律，我们在地球上进行任何活动，月球的引力都将立即随之而起变化，这样，信号的传递速度是无穷大的。这和相对论是矛盾的。
既然引力定律和相对论有矛盾，那就一定是引力定律有什么地方不对头。在爱因斯坦的观念里，就是这么简单。
因此爱因斯坦想到要来重建一个全新的，和相对论协调一致的引力理论。这是建立广义相对论的目的之一。
狭义相对论的两条基本原理之一，相对性原理说：在两个相互做匀速直线运动的参照系中，一切物理定律都是相同的。为什么一定要是相互做匀速直线运动呢？相互做加速运动行不行呢？在建立狭义相对论以后，爱因斯坦一直在想这个问题。他想，自然界为什么要给匀速直线运动以一种特殊优越的地位呢？为什么要给惯性系以一种特殊优越的地位呢？他认为，大自然是统一的、和谐的、简单的，不应该优待某一类参照系，歧视某一类参照系，所有的运动都是相对的，所有的参照系都具有平等的权利。在每一个参照系中物理定律都应该成立，而且应该具有某种相同的形式，不论它是惯性系还是非惯性系。现在，非惯性系中的物理定律和惯性系中不同，有的干脆不成立，爱因斯坦认为那是因为表示物理定律的方法不好。如果用更好的方法来表示物理定律，那么，物理定律就应该在所有的参照系中都成立，而且具有某种相同的形式。这就是广义相对性原理，又称广义协变原理。它的严格表述式是：客观的真实的物理定律在任意坐标变换下形式不变——广义协变。它是狭义相对论中的“相对性原理”的推广。
使所有的参照系都平权，把相对论从惯性系中推广到非惯性系中，这是建立广义相对论的又一个目的。
物体的质量具有两重性质，它具有惯性，同时产生引力。我们分别把它们称做惯性质量和引力质量。惯性质量出现在牛顿力学第二定律中：
力=惯性质量×加速度引力质量出现在牛顿的万有引力定律中：
力=引力质量×引力场强度在牛顿力学中，惯性质量与引力质量之间并没有内在的联系，可是却又巧得很，二者偏偏完全相等。在牛顿力学的时代，谁也不会去怀疑这二者是相等的，惯性质量和引力质量不加区别，统称为质量。
爱因斯坦想，惯性质量和引力质量之间，如果没有某种内在的联系，为什么会那么精确地相等呢？人们手里拿着一块石子，松手就往下掉，做匀加速直线运动。在这里地球吸引石子，是在召唤石子的引力质量，石子的落体运动，却是以惯性质量来回答。二者之间一定有着某种内在的联系，必然会包含着某种深刻的道理。爱因斯坦穷追到底，终于发现，这内在的深刻的道理就是：“等效原理。”现在我们不去讲述爱因斯坦得到等效原理的繁琐的实验和推理过程，只讲一讲等效原理的本身，什么是等效原理呢？相等于惯性系做加速运动的参照系是非惯性系，但是它和惯性系平权。不能站在惯性系的立场上否定加速系中切切实实感觉得到的惯性力。惯性力是存在的，加速系中物体受到惯性力的作用：
惯性力=惯性质量×加速度同一个物体，在引力场中受到引力的作用：
引力=引力质量×引力场强度因为惯性质量等于引力质量，只要加速系的加速度等于引力场强度，惯性力就等于引力，所以加速系的惯性力场等效于引力场。这就是等效原理。根据等效原理，密闭实验室里的人，根本不可能区分引力场的作用和加速运动，根本不可能搞清自己是在加速实验室中还是在引力实验室中。对等效原理一般的表述为：惯性力场与重力场的动力学效应是局部不可分辨的。这是等效原理的弱形式。如果将“动力学效应”换为“任何物理效应”，就是等效原理的强形式。
有了等效原理和广义相对性原理这两个基本原理，爱因斯坦就又可以着手建立他的广义相对论了。这和他在相对性原理和光速不变原理这两个基本原理的基础上建立狭义相对论的情况完全相同。整个建立相对论的过程也十分相像：从经过实验验证的基本原理出发，大胆突破旧的物理概念的框框，引进全新的物理概念，经过复杂的数学推导和运算，最后得到需要的结果。这就是爱因斯坦建立两个相对论的工作方法。相对论的结果，几乎每一个看起来都十分荒诞，但是从相对论中能推导出一个又一个经得起实验验证的结果，能推导出牛顿力学，但它又能给出牛顿力学中没有的东西。用数学名词来说，牛顿力学是相对论的一级近似。
爱因斯坦建立狭义相对论是从讨论“同时性”突破的。
那么他建立广义相对论又是以什么作为突破口呢？那就是“等效原理”。从惯性质量等于引力质量，到惯性力等价于引力，到加速参照系等价于静止在引力场中的参照系，这是多么大胆、多么富有想像力的一步！然而从等效原理到建立起完整的广义相对论，还有更艰苦的路程要走。在建立狭义相对论过程中，从解决同时性问题到写成《论动体的电动力学》，爱因斯坦只用了五个星期的时间。可是，从1907年建立等效原理到1915年建立引力场方程，引出空间时间的弯曲，最终写成广义相对论，却用了整整8年时间（正式发表是在1916年）。根据等效原理，引力场的每一点附近局部地等价于一个惯性力场，也就是等价于一个相对于惯性系做加速运动的非惯性系，但惯性系与非惯性系之间是可以通过坐标变换变过来变过去的。这样，不存在引力的惯性系和局部等价于引力场的非惯性系之间的不同，只有空间时间结构的某种不同。既然引力场的每一点附近都归结为一个非惯性系，整个引力场也就十分自然地归结为空间时间的某种内在结构，也就是空间时间的弯曲了。
从牛顿力学出发，承认牛顿的引力，得到等效原理，然后又根据等效原理，把引力场归结为空间时间的弯曲，从而取消牛顿的引力，改造牛顿力学，这就是爱因斯坦以等效原理为突破口，建立广义相对论，把引力场当做空间时间内在结构来处理的基本思想。
现在再来看看，从等效原理是怎样引出空间时间的弯曲的。先来做一个实验：将一束水平方向的光线射进一个惯性实验室。根据狭义相对论，光在惯性系中将以不变的光速做直线运动。现在实验室向上加速，成了加速实验室。它就相当于爱因斯坦在构思相对论过程中经常思考的电梯实验中的电梯。1913年爱因斯坦和居里夫人在阿尔卑斯山上谈话时，就向居里夫人讲述过这个实验，现在物理学界已经把这个著名的电梯称做“爱因斯坦电梯”。这束光在原来的惯性系中是水平向前运动的，现在对于加速系来说，它的运动必然要向下弯曲。根据等效原理，加速实验室等价于引力实验室，因此这束光要是射进引力场，它也会向下弯曲。人们从来就知道光是沿着直线传播的，现在爱因斯坦却向全世界宣布：在引力场中，光线是弯曲的。
再做一个实验：一个人在惯性实验室里向斜上方抛出一个小球，抛出以后小球不再受力，它遵从惯性定律做匀速直线运动。现在实验室向上加速，成了加速实验室，他再向斜上方抛出一个小球，小球将怎样运动呢？显然小球将做抛体运动。同样，根据等效原理，在引力实验室里情况也将是如此。对于这三个实验室里进行的实验，牛顿力学是这样解释的：
一、惯性实验室是惯性系，它是好的参照系，在这里惯性定律成立，抛出的小球做匀速直线运动。
二、加速实验室是非惯性系，它是不好的参照系，在这里惯性定律不成立，小球不服从惯性定律，不做匀速直线运动而做抛体运动。
三、在引力实验室里，小球因为受到了引力的作用，做抛体运动。
在三个实验室里做完全相同的实验，却得到了三种完全不同的解释。
对于这三个实验室里进行的实验，爱因斯坦的相对论又是怎样解释的呢？相对论认为：惯性定律应该适用于一切参照系，不论它是惯性系还是非惯性系。因为引力场中每一点的附近都局部地等价于一个加速系，所以惯性定律在引力场中也同样适用。在三个实验室中，惯性定律全部应该成立。在这三种情况下，小球都没有受到外力的作用。惯性实验室中的匀速直线运动和加速实验室、引力实验室中的抛体运动，本质上是相同的，都应该服从同一个惯性定律。那么怎样才能满足这个要求呢？爱因斯坦提出了两点：
第一点，四度空时是弯曲的，曲率由物质的分布决定。
在这里，牛顿所说的物质产生引力变成了物质引起空间与时间的弯曲，也就从根本上取消了引力。
第二点，牛顿的惯性定律修改为“不受外力作用的时候”，质点的运动在四度空时中的轨迹是一条“短程线”。这样一来，惯性定律就在这三个实验室里都成立了。