Tornado提供了两种事件处理机制：epoll(Linux)/kqueue(BSD、Mac OS X)和select()。默认采用epoll(Linux)/kqueue(BSD、Mac OS X)。如果系统不支持，则降级采用select()。
借用一张图来描述TCP连接过程的状态变化

TCP连接状态变化
客户端connect()返回不代表TCP连接建立成功，有可能此时accept queue 已满，系统会直接丢弃后续ACK请求；客户端误以为连接已建立，开始调用等待至超时；服务器则等待ACK超时，会重传SYN+ACK 给客户端，重传次数受限 net.ipv4.tcp_synack_retries ，默认为5，表示重发5次，每次等待30~40秒，即半连接默认时间大约为180秒，该参数可以在tcp被洪水攻击是临时启用这个参数。

backlog

在Linux内核中，通过backlog参数调节TCP连接队列大小。Linux2.2之前，分两种队列：SYN queue和Accept queue。backlog是该两种队列大小总和。Linux2.2之后，分别为这两种队列设置独立的backlog。可以通过如下命令查看连接队列状态：
[root@localhost ~]# ss -l
State Recv-Q Send-Q Local Address:Port Peer Address:Port
LISTEN 0 128 :http :
LISTEN 0 128 :::ssh :::
LISTEN 0 128 :ssh :
LISTEN 0 100 ::1:smtp :::
LISTEN 0 100 127.0.0.1:smtp :

SYN Queue

服务端状态为SYN_RCVD，该队列大小通过/proc/sys/net/ipv4/tcp_max_syn_backlog指定，默认1024。
可以通过如下命令查看SYN Queue溢出情况
[root@localhost ~]# netstat -s | grep LISTEN
102324 SYNs to LISTEN sockets dropped

Accept Queue

服务端状态为ESTABLISHED，该队列大小是/proc/sys/net/core/somaxconn与listen(maxconn)中的maxconn最小值。默认128。Linux2.4.25之前，固定在常量SOMAXCONN中。Linux2.4.25之后，可以通过/etc/sysctl.conf配置net.core.somaxconn，也可以在/proc/sys/net/core/somaxconn中修改。
可以通过如下命令查看Accept Queue溢出情况
[root@localhost ~]# netstat -s | grep TCPBacklogDrop
TCPBacklogDrop: 2334

参考

TCP/IP协议中backlog参数