Эйнштейн поступил в Цюрихский политехнический институт в октябре 1896 года, хотя ему по-прежнему не хватало официального шестимесячного возраста в 18 месяцев. Он участвовал в четырехлетней программе подготовки учителей, которая квалифицировала бы его в качестве специализированного учителя математики и физики в средней школе, Он жил в студенческом общежитии в буржуазном районе Хоттингена, сначала в квартире фрау Генриетты Хаги, а затем в небольшой пенсии, управляемой Стефани Марквалдер. На протяжении четырех лет учебы он жил со скромным доходом в 100 швейцарских франков в месяц, большая часть которого обеспечивалась его бабушкой и дедушкой по материнской линии, Кохами.
Решение Эйнштейна записаться в программу подготовки учителей может показаться удивительным в свете его собственного несчастья в качестве школьника в Мюнхене; радость, которую он получал от обучения, исходила от его неформального образования дома, а не от его опыта в школе с официально обученными инструкторами. Тем не менее, его учебный курс, возможно, был попыткой достичь компромисса со своей семьей, которая в то время испытывала финансовые затруднения. Завод, управляемый его отцом и дядей, обанкротился в 1896 году, и большая часть семейных средств была потеряна. Таким образом, несмотря на желание Эйнштейна овладеть границами физики, он также признал важность обеспечения стабильного дохода.
Эйнштейн, однако, не отказался от физики, серьезно изучая ее в лаборатории главного профессора физики в Политехникуме Генриха Фридриха Вебера, который был самым известным за его вклад в электротехнику.
Тем не менее, хотя Эйнштейн восхищался достижениями профессора, он с сожалением узнал, что Вебер, убежденный сторонник классической физики, был безнадежно старомодным, отвергая все достижения в области электричества и магнетизма со времен открытий Гельмгольца в 1850-х годах. Еще раз, как и в старшей школе, Эйнштейн полагался на самостоятельное обучение: он широко читал работы Максвелла, Кирхгофа, Герца, Гельмгольца и современных физиков. Эйнштейн также извлек выгоду из своих исследований со своим лектором по математике Германом Минковским, который позже окажется полезным в разработке строгого математического формализма для поддержки теории относительности Эйнштейна.
Хотя у Эйнштейна не было большого круга общения в Цюрихе, у него появилось несколько близких друзей, которые сильно повлияют на его будущее. Одним из таких друзей был Марсель Гроссман, студент математики, на год старше его. Отец Гроссмана был владельцем фабрики в Цюрихе, а Марсель был продуктом либеральной швейцарской среды. Эйнштейн рассматривал своего друга как студента-модельера и полагался на свои лекционные записи всякий раз, когда приходило время выпускных экзаменов. В последующие годы Гроссман продолжал приходить на помощь Эйнштейну, сначала помогая ему получить должность в патентном бюро в Берне после его окончания, а затем работая над математическими вычислениями общей теории относительности.
Другим самым близким другом Эйнштейна был Микеле Анджело Бессо, инженер-механик, живущий в Цюрихе. Эйнштейн встретил Бессо через любительскую музыкальную группу в Цюрихе, к которой Эйнштейн часто присоединялся по субботам, чтобы играть на скрипке. Он поощрял Эйнштейна читать произведения Эрнста Маха, современного австрийского философа. Эмпирический позитивизм Маха и недоверие к метафизическим спекуляциям оказали бы сильное влияние на теорию особой относительности Эйнштейна.
Наконец, Эйнштейн также сблизился с Милевой Марич, венгерской студенткой, которая на три года старше его в Цюрихском политехническом институте. Милева была не блестящей ученицей, а трудолюбивым и решительным работником. Хотя Эйнштейн был популярен среди многих женщин в Политехникуме, его отношения с Милевой стали особенно интенсивными в период с осени 1899 года по лето 1900 года. Затем, в июле 1901 года, вскоре после их окончания, Милева сообщила Эйнштейну, что она беременна. , Эйнштейн намеревался жениться на ней, но его родители были категорически против, потому что она была ниже их социального положения.
Родители Милевой, напротив, поощряли отношения между Эйнштейном и их дочерью, особенно когда они узнали, что она беременна. Когда Милева родила незаконнорожденного ребенка в конце января 1902 года, родители Милевы взяли на себя ответственность за молодого Лизерля и, как полагают, вскоре выставили ее на усыновление. Хотя Эйнштейн и Милева оставались в хороших отношениях на протяжении всей беременности, только в январе 1903 года, когда Эйнштейн получил безопасную и хорошо оплачиваемую работу в патентном бюро в Берне, пара наконец-то вышла замуж.