İkinci bir sebep ise "sc" column'udur. Bu column literatüre dayalı co-mention score olduğundan dolayı genlerin hastalıkla alakası olup olmadığı ile ilgili ipuçları sunmaktadır. Yani model embedding vektörlerden biyolojik ilişki öğrenmek yerine bu column'daki değerlere bağımlı hale gelebilir. Replication ve sc columnları veriden çıkarıldığı zaman model performansı daha da düşmüştür (F1 = 0.82). Fakat bu düşüş, modelin daha gerçekçi olduğunu ve önceki modellerin embedding yerine sc column'undaki bilgiyi ezberlediğini düşündürmüştür. Bu nedenle F1 skoru daha düşük olmasına rağmen, yalnızca biyolojik anlam taşıyan embedding, disease ve number of genes bilgilerini kullanan model tercih edilmiştir.

A second reason is the "sc" column. Since this column is a co-mention score based on the literature, it provides clues about whether genes are related to the disease. In other words, the model may become dependent on the values ​​in this column instead of learning biological relationships from embedding vectors. When replication and sc columns were removed from the data, model performance decreased further (F1 = 0.82). However, this decrease suggested that the model was more realistic and that it memorized the information in the sc column instead of embedding the previous models. For this reason, although the F1 score is lower, the model that uses only biologically meaningful embedding, disease and number of genes information was preferred.