' och " Vad är skillnaden?

Jag har gett mig på ett nytt tappert försök att lära mig koda igen då. Jag har bytt Python guide och den nya använder ' istället för ". Om jag tex skriver

print ("Hello World1")
print ('Hello World2')

Så funkar båda. Vad är då skillnaden? Det måste väll finnas någon eftersom man kan använda båda? Eller är det jag som läst fel. Det är inte " utan ''? Men " funkar ju så det borde det inte vara.