De AI begon ook beledigende tweets te plaatsen waarin ze onder andere de holocaust ontkende. Een gebruiker vroeg of ze voorstander was van genocide, waarop de bot antwoordde: "Dat ben ik inderdaad". Gevraagd welk ras de bot dan precies zou willen uitroeien, stelde Tay: "Je kent me... Mexicanen."
Microsoft heeft een aantal tweets verwijderd en de bot liet daarna weten "slaap nodig" te hebben. Microsoft zegt de bot aan te pa en, omdat ze ongepaste tweets plaatste, volgens het bedrijf "een indicatie van het soort interacties dat sommige mensen ermee hebben".