Kunstmaler med speciale i kirkeudsmykninger. Havsteens kunstneriske uddannelse var ved kunstnere som Fritz Syberg, Johannes Larsen, Oluf Høst og Elof Riseby på Kunstakademiet i Oslo. Rejser i det danske landskab med Martin A. Hansen og Ole Wivel gjorde Havsteen fortrolig med den danske middelalder og kirkekunsten. Samarbejdet med Martin A. Hansen knyttede ham til kredsen omkring tidsskriftet Heretica.