Sufjan Stevens y Angelo De Augustine crearon las canciones en A Beginner’s Mind mientras estaban escondidos en una cabaña en el norte del estado de Nueva York. Los artistas tocaron música y vieron películas todos los días durante su retiro, y las 12 pistas de su álbum colaborativo están vagamente inspiradas en las películas que vieron, como Return to Oz, que influyó en su sencillo «Back to Oz«. El LP también incluye temas compartidos anteriormente como «Fictional California«, «Olympus» y «Reach Out«.