Relationelle databaser håndhæver ACID. Så du vil have skemabaserede transaktionsorienterede datalagre. Det er gennemprøvet og egnet til 99% af de virkelige applikationer. Du kan praktisk talt gøre alt med relationelle databaser.
Men der er begrænsninger på hastighed og skalering, når det kommer til massive datalagre med høj tilgængelighed. For eksempel har Google og Amazon terabyte data gemt i store datacentre. Forespørgsel og indsættelse er ikke effektiv i disse scenarier på grund af RDBM'ernes blokering/skema/transaktionskarakter. Det er grunden til, at de har implementeret deres egne databaser (faktisk nøgleværdi-lagre) for massiv ydeevne og skalerbarhed.
NoSQL-databaser har eksisteret i lang tid - blot udtrykket er nyt. Nogle eksempler er graf-, objekt-, kolonne-, XML- og dokumentdatabaser.
For dit andet spørgsmål: Er det okay at bruge begge på samme side?
Hvorfor ikke? Begge tjener forskellige formål ikke?