Hozier interprète dans cette chanson son aversion pour l'hypocrisie vécue dans la religion catholique. Bien qu'en surface, il nous parle d'une fille, son message va au-delà; il nous dit que l'acte sexuel est l'une des choses les plus humaines qui soient mais une organisation comme l'Église, à travers sa doctrine, enseigne à avoir honte de l'orientation sexuelle, dit que c'est un péché ou qu'elle offense Dieus. La chanson parle de l'affirmation de soi et du rétablissement de son humanité par un acte d'amour.
La vidéo de Take Me to Church est réalisée par Brendan Canty et publiée le 25 septembre 2013. Tournée en noir et blanc, elle suit la relation de deux hommes homosexuels, et les réactions violentes à caractère homophobe qui s'ensuivent lorsque la communauté apprend de l'un des amants l'homosexualité du couple. Hozier n'apparaît pas dans la vidéo.
À travers ce morceau, le chanteur souhaite défendre la cause homosexuelle et l'orientation sexuelle de chacun, en dénonçant le traitement de la communauté LGBT en Russie. Hozier déclare à propos de ce clip :« Cette chanson a toujours parlé de l'humanité dans ce qu'elle a de plus naturelle, et sur comment elle est constamment minée par les [organisations de] religieux et par ceux qui voudraient nous faire croire qu'ils agissent dans son intérêt. Ce qu'on a vu se développer en Russie n'est rien de moins qu'un cauchemar, alors j'ai proposé d'amener ces thèmes dans l'histoire [de la chanson] et Brendan a aimé l'idée. » "Il s'agit de l'humanité à son plus naturel, et je pense que la chanson est sur la sexualité, à propos de l'acte sexuel lui-même. C’est aussi un sur l'Eglise et les organisations qui veulent affaiblir l'humanité à son plus naturel en critiquant des choses comme l'orientation sexuelle ou l'humanité naturelle."
Le clip vidéo est considéré par le magazine New York comme l'un des quinze meilleurs de l'année 2014.