После окончания в 1829 г. Горного кадетского корпуса служил на уральских заводах: Кушвинском, Саткинском, Артинском, и Златоустовском.
С 1849 г. Иосса руководил металлургическим заводом в Воткинске, где впервые в России провел опыты по бессемерованию и теоретические исследования процесса пудлингования. Он серьезно усовершенствовал процесс получения стали путем пудлингования, организовал строительство и внедрение в производство газопудлинговых и газосварочных печей нового типа на Воткинском заводе. Выделка крупного сортамента железа – еще одно его важное изобретение. Иосса был первым в России, кто провел эксперименты по производству стали с помощью бессемеровского процесса в 1861-1863 гг.
В 1851-1855 гг. Иосса был начальником Златоустовского горного округа. С 1855 г. занимал должность горного начальника Камско-Воткинских заводов. Иосса также способствовал открытию Воткинского горного училища. В 1863-1870 гг. Иосса – главный начальник всех уральских заводов. В годы его работы на Урале были построены броневой и пушечный завод.
Благодаря изобретениям Иоссы, на Воткинском заводе был изготовлен шпиль Петропавловского собора в Петербурге. Были отлиты чугунные шестерни и валы, к которым было добавлено немного меди. Они были «очень прочны, и уже без поломок стали готовить железо для шпиля». После возведения шпиля Петропавловского собора А. А. Иосса получил в награду бриллиантовый перстень с вензелем Его Императорского Величества Имени.
В 1864-1870 гг. Иосса был главой Уральского горного правления, с 1870 г. – служил в горном ведомстве в качестве члена Горного совета и Горного ученого комитета, где стал председателем. С 1883 г. Иосса – почетный член Российского минералогического общества, Русского технического общества, действительный член Уральского общества любителей естествознания. С 1889 г. – действительный статский советник.