Tallinna tehnikaülikooli (tollal TPI) mehaanikateaduskonna lõpetas Arvo Ots 1955. aastal cum laude soojustehnika erialal. Õppetöö kõrvalt töötas ta soojustehnika kateedri vanemlaborandina ning pärast ülikooli lõpetamist mõnda aega teaduste akadeemia energeetika instituudi nooremteadurina.

Novembrist 1955 sai temast aspirant (praeguses mõttes doktorant) ning 1958. aastal kaitses ta TPI juures tehnikakandidaadi (praegu võrdsustatud PhD kraadiga).

Eesti teaduste akadeemia liikmeks valiti Arvo Ots 1983. aastal energeetika alal.

Alates 1959. aastast oli Arvo Otsa tegevus teadlase ja õpetlasena seotud Tallinna tehnikaülikooliga. Ta oli algul soojusenergeetika kateedri tunnitasuline õppejõud, edasi dotsent, vanemteadur, 1968–1991 professor ja soojusenergeetika kateedri juhataja. Pärast taasiseseisvumist ta vastutus kasvas: 1991–2002 oli ta soojustehnika instituudi direktor, 2001−2003 erakorraline professor ja 2003−2015 vanemteadur. Alates 2003 oli Arvo Ots Tallinna tehnikaülikooli emeriitprofessor.

Arvo Ots on üks põlekivi põletamise alase teoreetilise teaduse alusepanijaid. Tema uuringute fookuses oli soojuselektrijaamade aurukatelde kolletes toimuvad protsessid, algul võimalused vananenud restkatelde asendamiseks tolmpõletamisseademetega ja edasi keevkihtkatelde teooria ja praktika.

Poole sajandi jooksul õpetas Arvo Ots tehnikaülikoolis peamiselt soojusjõuseadmete valdkonda kuuluvaid aineid, oli kolme NSVL doktoritöö ja paljude teaduste kandidaadi ja PhD väitekirjade juhendaja. Tema sulest on ilmunud üle 500 teaduspublikatsiooni (sh neli monograafiat) ja mitmed kõrgkooliõpikud.

Kahel korral on Arvo Otsa tööd tunnustatud Nõukogude Eesti teaduspreemiatega (1970, 1980). 1981 nimetati ta Eesti NSV teeneliseks teadlaseks. 2003 pälvis ta Eesti Vabariigi Valgetähe IV klassi teenetemärgi, 2006 aasta inseneri tiitli ning 2010 riigi teaduspreemia pikaajalise tulemusliku teadus- ja arendustöö eest ehk nn elutööpreemia.