Fordi tegnet \ bruges af selve LIKE-operatoren, skal du fordoble det, når du bruger det til at undslippe et andet tegn som det dobbelte anførselstegn.
SELECT * FROM table_name WHERE column_name LIKE "%\\"%";
burde virke for dig.
som vil ændre de dobbelte anførselstegn for enkelte anførselstegn for at omslutte det bogstavelige
SELECT * FROM table_name WHERE column_name LIKE '%"%';
som du skrev her