千万级表，读写相当频繁，该用什么思路去优化？

问题是这样的，有三张表，user, foo, bar。每张表的字段数都在10以上。其中foo量级在5000w，bar在20000w。这两张表的某些字段（每张表两个左右）每天都会更新一遍。foo表每天增加1w，bar表每天增加200w。foo.user_id = user.user_id, foo.foo_id = bar.bar_id。
有上百台服务器，每台服务器有50个左右的mysql连接（无法做连接池）。数据库并发连接数在4000左右，且每个链接都是更新操作为主。
目前的方案是，在mysql上通过thrift实现一层http的service，提供api，每台服务器来调用api进行数据更新。
拆表方面，打算把user,foo和bar垂直拆表，将不需要更新的字段和需要更新的字段分开。必要时再将需要更新字段组成的表再做水平拆表。

不知道大家有没有这方面的经验，欢迎大家提供更好的方案