Как вы уже поняли, это файл должен лежать в корневой директории проекта, так как нужно копировать от туда requirements.txt при сборке образа.