http://www.etop.biz/blog 亿顺软件的博客网志，走近我们的产品、技术和文化 Tue, 30 Dec 2008 12:38:48 +0000 http://backend.userland.com/rss092 en 1.drop configuration files and repository run : emca -deconfig dbcontrol db -repos drop 2.Create configuration files and repository run emca -config dbcontrol db -repos create 创建EM后会提示的端口号,应为实例的端口号,比如1521,不是EM的端口号(比如1158) EM的端口号在这个文件中可以查到10.2.0\db_1\sysman\config\emca.properties http://www.etop.biz/blog/2008-12-30/115 架构演变第一步：物理分离webserver和数据库 最开始，由于某些想法，于是在互联网上搭建了一个网站，这个时候甚至有可能主机都是租借的，但由于这篇文章我们只关注架构的演变历程，因此就假设这个时候 已 经是托管了一台主机，并且有一定的带宽了，这个时候由于网站具备了一定的特色，吸引了 部分人访问，逐渐你发现系统的压力越来越高，响应速度越来越慢，而这个时候比较明显的是数据库和应用互相影响，应用出问题了，数据库也很容易出现问题，而 数据库出问题的时候，应用也容易出问题，于是进入了第一步演变阶段：将应用和数据库从物理上分离，变成了两台机器，这个时候技术上没有什么新的要求，但你 发现确实起到效果了，系统又恢复到以前的响应速度了，并且支撑住了更高的流量，并且不会因为数据库和应用形成互相的影响。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 这一步架构演变对技术上的知识体系基本没有要求。 架构演变第二步：增加页面缓存 好景不长，随着访问的人越来越多，你发现响应速度又开始变慢了，查找原因，发现是访问数据库的操作太多，导致数据连接竞争激烈，所以响应变慢，但数据库连 接又不能开太多，否则数据库机器压力会很高，因此考虑采用缓存机制来减少数据库连接资源的竞争和对数据库读的压力，这个时候首先也许会选择采用squid 等类似的机制来将系统中相对静态的页面（例如一两天才会有更新的页面）进行缓存（当然，也可以采用将页面静态化的方案），这样程序上可以不做修改，就能够 很好的减少对webserver的压力以及减少数据库连接资源的竞争，OK，于是开始采用squid来做相对静态的页面的缓存。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 前端页面缓存技术，例如squid，如想用好的话还得深入掌握下squid的实现方式以及缓存的失效算法等。 架构演变第三步：增加页面片段缓存 增加了squid做缓存后，整体系统的速度确实是提升了，webserver的压力也开始下降了，但随着访问量的增加，发现系统又开始变的有些慢了，在尝 到了squid之类的动态缓存带来的好处后，开始想能不能让现在那些动态页面里相对静态的部分也缓存起来呢，因此考虑采用类似ESI之类的页面片段缓存策略，OK，于是开始采用ESI来做动态页面中相对静态的片段部分的缓存。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 页面片段缓存技术，例如ESI等，想用好的话同样需要掌握ESI的实现方式等； 架构演变第四步：数据缓存 在采用ESI之类的技术再次提高了系统的缓存效果后，系统的压力确实进一步降低了，但同样，随着访问量的增加，系统还是开始变慢，经过查找，可能会发现系 统中存在一些重复获取数据信息的地方，像获取用户信息等，这个时候开始考虑是不是可以将这些数据信息也缓存起来呢，于是将这些数据缓存到本地内存，改变完毕后，完全符合预期，系统的响应速度又恢复了，数据库的压力也再度降低了不少。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 缓存技术，包括像Map数据结构、缓存算法、所选用的框架本身的实现机制等。 架构演变第五步： 增加webserver 好景不长，发现随着系统访问量的再度增加，webserver机器的压力在高峰期会上升到比较高，这个时候开始考虑增加一台webserver，这也是为了同时解决可用性的问题，避免单台的webserver down机的话就没法使用了，在做了这些考虑后，决定增加一台webserver，增加一台webserver时，会碰到一些问题，典型的有： 1、如何让访问分配到这两台机器上，这个时候通常会考虑的方案是Apache自带的负载均衡方案，或LVS这类的软件负载均衡方案； 2、如何保持状态信息的同步，例如用户session等，这个时候会考虑的方案有写入数据库、写入存储、cookie或同步session信息等机制等； 3、如何保持数据缓存信息的同步，例如之前缓存的用户数据等，这个时候通常会考虑的机制有缓存同步或分布式缓存； 4、如何让上传文件这些类似的功能继续正常，这个时候通常会考虑的机制是使用共享文件系统或存储等； 在解决了这些问题后，终于是把webserver增加为了两台，系统终于是又恢复到了以往的速度。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 负载均衡技术（包括但不限于硬件负载均衡、软件负载均衡、负载算法、linux转发协议、所选用的技术的实现细节等）、主备技术（包括但不限于ARP欺骗、linux heart-beat等）、状态信息或缓存同步技术（包括但不限于Cookie技术、UDP协议、状态信息广播、所选用的缓存同步技术的实现细节等）、共享文件技术（包括但不限于NFS等）、存储技术（包括但不限于存储设备等）。 架构演变第六步：分库 享受了一段时间的系统访问量高速增长的幸福后，发现系统又开始变慢了，这次又是什么状况呢，经过查找，发现数据库写入、更新的这些操作的部分数据库连接的 资 源竞争非常激烈，导致了系统变慢，这下怎么办呢，此时可选的方案有数据库集群和分库策 略，集群方面像有些数据库支持的并不是很好，因此分库会成为比较普遍的策略，分库也就意味着要对原有程序进行修改，一通修改实现分库后，不错，目标达到 了，系统恢复甚至速度比以前还快了。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 这一步更多的是需要从业务上做合理的划分，以实现分库，具体技术细节上没有其他的要求； 但同时随着数据量的增大和分库的进行，在数据库的设计、调优以及维护上需要做的更好，因此对这些方面的技术还是提出了很高的要求的。 架构演变第七步：分表、DAL和分布式缓存 随着系统的不断运行，数据量开始大幅度增长，这个时候发现分库后查询仍然会有些慢，于是按照分库的思想开始做分表的工作，当然，这不可避免的会需要对程序 进行一些修改，也许在这个时候就会发现应用自己要关心分库分表的规则等，还是有些复杂的，于是萌生能否增加一个通用的框架来实现分库分表的数据访问，这个在ebay的架构中对应的就是DAL，这个演变的过程相对而言需要花费较长的时间，当然，也有可能这个通用的框架会等到分表做完后才开始做，同时，在这个阶段可 能会发现之前的缓存同步方案出现问题，因为数据量太大，导致现在不太可能将缓存存在本地，然后同步的方式，需要采用分布式缓存方案了，于是，又是一通考察和折磨，终于是将大量的数据缓存转移到分布式缓存上了。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 分表更多的同样是业务上的划分，技术上涉及到的会有动态hash算法、consistent hash算法等； DAL涉及到比较多的复杂技术，例如数据库连接的管理（超时、异常）、数据库操作的控制（超时、异常）、分库分表规则的封装等； 架构演变第八步：增加更多的webserver 在做完分库分表这些工作后，数据库上的压力已经降到比较低了，又开始过着每天看着访问量暴增的幸福生活了，突然有一天，发现系统的访问又开始有变慢的趋势 了，这个时候首先查看数据库，压力一切正常，之后查看webserver，发现apache阻塞了很多的请求，而应用服务器对每个请求也是比较快的，看来 是请求数太高导致需要排队等待，响应速度变慢，这还好办，一般来说，这个时候也会有些钱了，于是添加一些webserver服务器，在这个添加 webserver服务器的过程，有可能会出现几种挑战： 1、Apache的软负载或LVS软负载等无法承担巨大的web访问量（请求连接数、网络流量等）的调度了，这个时候如果经费允许的话，会采取的方案是购 买硬件负载，例如F5、Netsclar、Athelon之类的，如经费不允许的话，会采取的方案是将应用从逻辑上做一定的分类，然后分散到不同的软负载集群中； 2、原有的一些状态信息同步、文件共享等方案可能会出现瓶颈，需要进行改进，也许这个时候会根据情况编写符合网站业务需求的分布式文件系统等； 在做完这些工作后，开始进入一个看似完美的无限伸缩的时代，当网站流量增加时，应对的解决方案就是不断的添加webserver。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 到了这一步，随着机器数的不断增长、数据量的不断增长和对系统可用性的要求越来越高，这个时候要求对所采用的技术都要有更为深入的理解，并需要根据网站的需求来做更加定制性质的产品。 架构演变第九步：数据读写分离和廉价存储方案 突然有一天，发现这个完美的时代也要结束了，数据库的噩梦又一次出现在眼前了，由于添加的webserver太多了，导致数据库连接的资源还是不够用，而这个时候又已经分库分表了，开始分析数据库的压力状况，可能会发现数据库的读写比很高，这个时候通常会想到数据读写分离的方案，当然，这个方案要实现并不 容易，另外，可能会发现一些数据存储在数据库上有些浪费，或者说过于占用数据库资源，因此在这个阶段可能会形成的架构演变是实现数据读写分离，同时编写一些更为廉价的存储方案，例如BigTable这种。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 数据读写分离要求对数据库的复制、standby等策略有深入的掌握和理解，同时会要求具备自行实现的技术； 廉价存储方案要求对OS的文件存储有深入的掌握和理解，同时要求对采用的语言在文件这块的实现有深入的掌握。 架构演变第十步：进入大型分布式应用时代和廉价服务器群梦想时代 经过上面这个漫长而痛苦的过程，终于是再度迎来了完美的时代，不断的增加webserver就可以支撑越来越高的访问量了，对于大型网站而言，人气的重要毋 庸置疑，随着人气的越来越高，各种各样的功能需求也开始爆发性的增长，这个时候突然发现，原来部署在webserver上的那个web应用已经非常庞大 了，当多个团队都开始对其进行改动时，可真是相当的不方便，复用性也相当糟糕，基本是每个团队都做了或多或少重复的事情，而且部署和维护也是相当的麻烦， 因为庞大的应用包在N台机器上复制、启动都需要耗费不少的时间，出问题的时候也不是很好查，另外一个更糟糕的状况是很有可能会出现某个应用上的bug就导 致了全站都不可用，还有其他的像调优不好操作（因为机器上部署的应用什么都要做，根本就无法进行针对性的调优）等因素，根据这样的分析，开始痛下决心，将 系统根据职责进行拆分，于是一个大型的分布式应用就诞生了，通常，这个步骤需要耗费相当长的时间，因为会碰到很多的挑战： 1、拆成分布式后需要提供一个高性能、稳定的通信框架，并且需要支持多种不同的通信和远程调用方式； 2、将一个庞大的应用拆分需要耗费很长的时间，需要进行业务的整理和系统依赖关系的控制等； 3、如何运维（依赖管理、运行状况管理、错误追踪、调优、监控和报警等）好这个庞大的分布式应用。 经过这一步，差不多系统的架构进入相对稳定的阶段，同时也能开始采用大量的廉价机器来支撑着巨大的访问量和数据量，结合这套架构以及这么多次演变过程吸取的经验来采用其他各种各样的方法来支撑着越来越高的访问量。 看看这一步完成后系统的图示： 这一步涉及到了这些知识体系： 这一步涉及的知识体系非常的多，要求对通信、远程调用、消息机制等有深入的理解和掌握，要求的都是从理论、硬件级、操作系统级以及所采用的语言的实现都有清楚的理解。 运维这块涉及的知识体系也非常的多，多数情况下需要掌握分布式并行计算、报表、监控技术以及规则策略等等。 说起来确实不怎么费力，整个网站架构的经典演变过程都和上面比较的类似，当然，每步采取的方案，演变的步骤有可能有不同，另外，由于网站的业务不同，会有不同的专业技术的需求，这篇blog更多的是从架构的角度来讲解演变的过程，当然，其中还有很多的技术也未在此提及，像数据库集群、数据挖掘、搜索等，但在真实的演变过程中还会借助像提升硬件配置、网络环境、改造操作系统、CDN镜像等来支撑更大的流量，因此在真实的发展过程中还会有很多的不同，另外一个大型网站要做到的远远不仅仅上面这些，还有像安全、运维、运营、服务、存储等，要做好一个大型的网站真的很不容易。 http://www.etop.biz/blog/2008-12-25/114 通常都是通过域名找IP，下面的网站提供了根据IP反查绑定的域名的功能。 租虚拟主机的朋友可以用它来看看那些网站和自己是邻居。 http://www.myipneighbors.com/ http://www.etop.biz/blog/2008-08-29/113 前阵子大家都忙的挺辛苦，所以这次的海边活动也就充满了放松的气氛-沙滩游泳，吃海鲜，踏浪，捉螃蟹，当然，还有晚上的诈金花，哈哈！ 第一天，到了奉贤的海边，这是个海边的小村镇，有很多星级宾馆和海鲜小吃。 我们住的宾馆，挺干净的 下午立即去了碧海金沙浴场享受沙滩的生活 那边的夕阳很美 大家都玩开心，直到傍晚才恋恋不舍得离开    第二天上午，阳光明媚，一想去海边踏浪捉螃蟹，所有人的情绪都HIGH起来了。   真的有螃蟹啊！   兴致很高   越过泥泞的道路，螃蟹，我们来了！ 哈哈，活捉！ 黄泥螺 大海！   http://www.etop.biz/blog/2008-08-24/107 DRBD 的安装和配置。 目前流行的Linux中只有Centos有预编译好的安装包和对应内核。 如果不想用Centos可以选择从源码安装。DRBD有两种安装模式：直接编译进内核，作为一个可加载的内核模块编译。 无论哪种方式都是有些痛苦的 – 解决各种依赖，准备内核源码树。我是根据官方文档http://www.drbd.org/users-guide/s-build-from-source.html 一步一安装的。依赖的软件或库make, gcc, the glibc development libraries, 和 flex。GCC必须和你编译内核使用的是同一版本。 本文使用的是Centos 1.    准备分区 在两台机器上划分等大的分区供DRBD使用。不要格式化也不要mount.我使用的是/dev/hda2 2.    安装 只要一行命令； Yum install DRBD 3.    配置IP地址和主机名。 我的/etc/hosts 文件内容如下 127.0.0.1        localhost.localdomain        localhost 192.168.0.113        jack.etop.biz            jack 192.168.0.114        rose.etop.biz            rose 4.    配置 [teddy@jack]$ vim /etc/drbd.conf drbd.conf内容如下： global { usage-count yes; } common { syncer { rate 40M;} protocol C; } resource r0 { on jack { device    /dev/drbd1; disk      /dev/hda2; address   192.168.0.114:7789; meta-disk ... http://www.etop.biz/blog/2008-08-09/81 一个诡异的需求, 拿来的iso都是大写文件, 需要弄成小写的 先 zip起来, 然后unzip的时候 -L就使用了小写解压, 幸好没有去写什么垃圾shell, 否则又浪费时间, 总算第一步过关, 看到自符安装界面了. http://www.etop.biz/blog/2008-08-08/79 http://drupal.org/project/zen http://drupal.org/project/basic 各有各的好处, 但是绝对不要自己从头写起, 也不要试图修改garland...经验所得 http://www.etop.biz/blog/2008-08-07/78 http://www.laputac.com/tech/ http://www.meadroid.com/scriptx/ http://www.etop.biz/blog/2008-07-31/77 Website Grader is a free seo tool that measures the marketing effectiveness of a website. It provides a score that incorporates things like website traffic, SEO, social popularity and other technical factors. It also provides some basic advice on how the website can be improved from a marketing perspective. http://www.websitegrader.com/ http://www.etop.biz/blog/2008-07-12/76 本周花了不少时间研究HA集群，在忘记以前赶紧记录下来。 顺便鄙视一下redhatEL，不厚道, 搞了个yum但又不能用。 维持最长的系统正常运行时间对随需应变计算的成功来说越来越重要。不幸的是，很多现成即用（off-the-shelf）的高可用性（high availability，HA）解决方案 价格昂贵，而且需要专门的硬件。 本文介绍的是HA 服务的廉价替代方案－－Heartbeat + DRBD + Linux实现一个双节点的高可用集群。假设该HA集群上提供的服务为apache和mysql. 当主节点出现故障时，自动的通过备份节点继续提供服务。 高可用性的概念 高可用性 是在系统、组件或者应用程序发生故障时快速恢复基本服务的系统管理策略。其目的是最大程度地减少服务中断，而不是容错。用来解决关键商务操作的系统执行故障的最常见解决方案是，使用另一个系统来等待并接管出故障的系统的负载，使商务操作继续进行下去。 HA集群构架 HA可以由两台数据同步的linux节点结成， 两个节点通过冗余的私有的物理连接进行数据同步和节点状态监视。 软件组件 Heartbeat 名为 High-Availability Linux 的开源项目的目标是，通过社区开发努力提供一个提升 Linux 可靠性（reliability）、 可用性（availability）和可服务性（serviceability）（RAS）的群集解决方案。Linux-HA 项目得到了广泛的应用，是很多有 趣的高可用性解决方案的重要组成部分。 heartbeat 是可以从 Linux-HA 项目 Web 站点公开获得的软件包之一。它提供了所有 HA 系统所需要的基本功能，比如 启动和停止资源、监测群集中系统的可用性、在群集中的节点间转移共享 IP 地址的所有者等。它通过串行线、以太网接口 或者同时使用二者来监测特定服务（或多个服务）的健康状况。当前版本支持两节点配置，使用专门的 heartbeat“pings”来检查 服务的状态和可用性。 DRBD DRBD 是由LINUX内核模块和相关脚本而构成，用以构建高可用性的集群。其实现方式是通过网络来镜像整个设备。您可以把它看作是一种网络RAID. DRBD 负责接收数据，把数据写到本地磁盘，然后发送给另一个主机。另一个主机再将数据存到自己的磁盘中。 Linux 什么 ！ 不知道是什么东东？ 赶快去做几个俯卧撑吧。 硬件 两台普通x86架构的PC机，双网卡，交叉网线。 如果只是为了测试评估，可以使用虚拟机模拟。 待续。。。。。 http://www.etop.biz/blog/2008-07-07/73