Małżeństwo, Andrzej i Krystyna podwożą tajemniczego chłopaka. Zaintrygowany jego krnąbrnym zachowaniem i beztroską postawą, Andrzej zaprasza go na swój jacht, którym cała trójka wybiera się na jednodniowy rejs po Mazurach. Andrzej, dziennikarz sportowy, z jednej strony stara się zrobić na młodym chłopaku wrażenie, zaimponować mu swoją pozycją społeczną, zamożnością a szczególnie wiedzą i doświadczeniem, a z drugiej strony utrzeć nosa smarkaczowi. Między meżczyznami wywiązuje się dziwny konflikt i niezdrowa rywalizacja, które prowadzą do nieoczekiwanego zakończenia.
Film mówi o ponadczasowym konflikcie między pokoleniami, płcią i ideałami. „Nóż w wodzie” został nakręcony zgodnie z zasadą trzech jedności greckiego teatru: jedność czasu, miejsca i akcji, w które Jerzy Skolimowski, scenarzysta, zawsze wierzył. Akcja filmu rozgrywa się w ciągu jednej doby dzięki czemu widz ma poczucie, że zaobserwował wszystko, co się wydarzyło. Fakt ten też dodaje realizmu całej sytuacji. Dzięki obecności tylko trzech postaci, widz może dostrzec każdy ważny szczegół. Na uwagę zasługuje również wypaczona komunikacja a nawet dyskomunikacja między aktorami. Skolimowski, jak sam powiedział, obsesyjnie dążył do stworzenia jak najkrótszych dialogów, złożonych z jednego słowa a nawet jednej sylaby.
Z filmem związanych jest wiele anegdot. Podczas kręcenia jednej sceny ze scen zdenerowany Jerzy Lipman rzucił kamerą, która wpadła do wody i spoczywa na dnie jeziora do dzisiejszego dnia, podobnie jak tytułowy nóż. „Nóż w wodzie” spotkał się z ostrą krytyką komunistycznych władz, według których był zbyt zachodni i dekadencki oraz epatował materializmem i konsumpcjonizmem, nieznanym Polakom w ówczesnym okresie. Jak niesie wieść gminna, podczas kolaudacji oburzony pierwszy sekretarz Władysław Gomółka cisnął w ekran popielniczką. Po pewnych modyfikacjach, rok później tj. w 1962 r. film został dopuszczony do emisji.