Родина известного русского физика – г. Ромны в Полтавской губернии. Он появился на свет в семье купца. Образование получил в Ромненском реальном училище, а после этого поступил в Санкт-Петербургский технологический институт.
В 1903 году молодой ученый уезжает в Мюнхен, чтобы под руководством Рентгена ставить эксперименты по проверке резонансной теории запаха и чувства обоняния.
Сначала он работает там в качестве практиканта, после получает место ассистента. Несмотря на то, что Рентген приглашал его остаться в Мюнхене, Иоффе спустя три года работы уезжает на родину.
Работая в Политехническом институте, Иоффе собрал вокруг себя круг единомышленников и преданных учеников. Они же помогли ученому организовать Физико-технический институт. Иоффе также известен как организатор физико-технического отдела в Рентгеновском и радиологическом институте в Петрограде, физико-механического факультета в Политехническом институте. Именно он был инициатором создания физико-технических институтов в крупных городах Украины и России.
В своей магистерской диссертации Иоффе обратился к изучению элементарного фотоэлектрического эффекта в традициях Дж. Томсона, Р. Милликена. Им было доказано существования электрона независимо от остальной материи. Он же определил основную величину его заряда, а также занимался исследованием магнитного действия катодных лучей. Еще одним крупным исследованием ученого было продолжение работ, которые он выполнял еще под руководством Рентгена. Иоффе посвятил его изучению упругих и электрических свойств кварца.
Ученый посвятил немало времени физике кристаллов. Он занимался изучением механизма проводимости ионных кристаллов, их прочности и пластичности. В 50-е годы им было открыто явление упрочнения материала. Большинство работ Иоффе было обобщено в книге под названием «Физика кристаллов».
В 30-е годы ХХ века Иоффе становится инициатором исследований полупроводников.
Иофе известен как втор многих монографий и учебников. Под его авторством были изданы «Лекции по молекулярной физике», он работал над составлением тома основных понятий их области механики, есть работы по свойствам тепловой энергии, электричества, магнетизма.