O uso de Machine Learning no contexto da medicina traz diversas implicações a respeito da veracidade dos resultados dos modelos já que o impacto dos resultados e grande na vida das pessoas. Pensando nisso, este trabalho tem como objetivo aplicar métodos de interpretabilidade em modelos que  façam a predição do grau de retinopatia diabética, uma doença ocular causada pela diabetes, em imagens de fundo de olho. Inicialmente, foi escolhido o algoritmo apresentado por [Voets et al. 2019] para ser o baseline do trabalho e o algoritmo foi rodado com o dataset público do Kaggle disponibilizado na competição de detecção de retinopatia do APTOS. Os resultados obtidos foram consideravelmente bons, pois foi obtido uma AUC de 0,96 enquanto o artigo apontou uma AUC de 0,95. Com estes resultados, ficou decidido que este modelo será usado como baseline deste trabalho e os próximos passos do mesmo e aplicar métodos de explicabilidade para entender quais as features nas imagens que o modelo leva em conta na hora de realizar as predições.