max connection отвечает за максимальное количество сессий, если оно превышено то другим вход запрещен

могу посоветовать изобрести свой хак с max connection=2 и через root preexec= /opt/myscript.sh где в файле вы будете дергать smbstatus дергать количество подключенных и находить PID первой сессии и через smbcontrol $PID close-share * рубить сессию