金融应用系统上线部署实施方案 AIX P570 + EMC

系统 1639 0

应用系统(组件)上线部署实施方案(自己的一些记录,看不清楚勿喷)

 

假设:使用的是2台物理机(aix P570)形成双机集群和一个EMC存储阵列,WEB AP DB都在一台服务器上

 

1 机房要求

      无电磁干扰、空气污染、易燃物、水灾。空间足够、承重符合要求、温度湿度要求等

 

2 HMC

      HMC 和2台服务器处于同一个机架,通过一台交换机同2台服务器连接。

在HMC中设置2个服务器分区(LPAR),分区设置如下:

服务器分2为LPAR1和LPAR2,每个分区拥有一半CPU、不到一半的内存(由于逻辑分区的内存需要有浪费一定的空间作为内存table,所以不能完全使用内存),2块HBA(required),3块网卡(required),4块硬盘(required),1块2-por rs232串口卡(required),1块scsi卡(desired,用来连接外置磁带机),1块Other Mass Storage Controller(desired,IDE光驱)

 

3 服务器

插入光盘,进行安装系统和补丁,注意设置各系统文件的空间大小,将OS安装到一块硬盘上。 

安装powerHA。

 网络设置,设置好所有网卡的IP,其中2块网卡设置成心跳IP(两个LAN用交叉线直连)。

  设置信任关系 vi /etc/hosts

 

4 存储交换机

         将2台服务器的光纤卡端口连接到存储交换机上,先用类似于VLAN的技术将不同应用和存储隔离,在利用配置存储交换机实现硬件的Zoning划分,即让不同的服务器访问不同的存储空间,避免相互干扰。

 

5 存储

  一般是一个系统柜加多个存储柜,先开存储柜,再开系统柜,  确定磁盘卷的保护方式(RAID0+1 或者RAID5),然后划分外部使用的LUN、盘锁和内部管理用LUN。每个LUN都有一个ID。

 使用Solution Enabler 软件分配LUN给服务器,确认服务器是否连上了存储。

    在主机上安装EMC ODM EMC存储驱动

在主机上安装存储多路径软件  POWERPATH (负载均衡、高可用)

       Powermt config

主机名称

配置类型

空间编号

空间用途描述

lun

数量

大小

合计

位置

用途

A & B

 

1

数据存储

3

 

共享存储

数据库文件

2

应用空间

1

 

共享存储

应用程序、流水、文件日志

3

锁盘

1

100M

共享存储

mc/sg锁盘

 

6 服务器配置

         设置WEB AP DB服务器的用户、组。

         将存储空间挂到上面新增的用户目录下。

Mksssaraid   几块pdisk硬盘创建raid5,变为逻辑磁盘hdisk2

Mkvg 在hdisk2上建立datavg

Mklv 在datavg上建议一个日志lv,建立一个datalv

Crfs 在datalv上建立文件系统 /home/db等

检测卷组和文件系统 varyonvg fsck mount  

在备份服务器上导入共享datavg  importvg –L datavg hdisk2

 

内置的2块硬盘做OS镜像。

设置各类服务开关

系统参数设置,设置最大进程数。

中间件挂在到本地硬盘,数据库和应用挂载到存储上。

              

7   POWERHA (HP叫 MC/SERVICE GUARD双机集群)

作为双机系统的两台服务器(主机A和B)同时  运行Ha软件

服务器除正常运行自机的应用外,同时又作为  对方的备份主机

两台主机系统(A和B)在整个运行过程中,通过  “心跳线”相互监测对方的运行情况(包括系统  的软硬件运行、网络通讯和应用运行情况等)

一旦发现对方主机的运行不正常(出故障)时  ,故障机上的应用就会立即停止运行,本机(  故障机的备份机)就会立即在自己的机器上启  动故障机上的应用,把故障机的应用及其资源 (包括用到的IP地址和磁盘空间等)接管过来,  使故障机上的应用在本机继续运行

应用和资源的接管过程由Ha软件自动完成,无 需人工干预

当两台主机正常工作时,也可以根据需要将其中一台机上的应用人为切换到另一台机(备份机)上运行,这个应用是将主机备机指向同一块存储空间,正常情况下备机是接受应用请求的。

 

如果主机发生故障的处理流程是:

1、 备机守护进程cmcld检测到心跳超时

2、 备机抢占存储上的仲裁盘,进行重组集群

3、 备机上启动运行包,恢复应用访问(切换时间就是启动脚本的执行时间)                 

 

1、在每个节点上都安装powerha

2、在主节点上配置 mitty hacmp,设置集群名称,加入节点2,配置集群网络,创建rhosts文件,导入到节点2

3、将主节点集群配置环境传给节点2

4、主备节点创建服务器启停脚本,  /usr/ha/start  内容无非就是启动数据库,应用等。 加入到集群配置中

5、给集群设定资源,  包括VG 文件系统,并做同步到节点2

6、验证,启动节点 smitty clstart

 

9 数据库安装 Informix 为例

         9.1 安装数据库

进入informix根目录,su

         ./installclientsdk

         ./RUN_as_root.clientsdk

         ./ids_install

         对 onconfig.clr进行参数配置

         编译sqlhosts文件,主要配置主机名,端口名,协议等

         配置/etc/service 将端口的域名解析为数字

         9.2 创建数据库

         Oninit –ivy 进入初始化配置

         创建数据库

         Onspaces –c –d phydbs  /home/db/Informix/**chunk 创建物理日志

         Onspaces –c –d logdbs ……  创建逻辑日志

         Onspaces –c –d **dbs  ……  创建数据库

         Onparams –a dlogdbs –s 50000 将逻辑日志划分为50m一个

         9.3 在备机上安装数据库,分别在主节点和备用节点编写数据库启动和关闭脚本。

都位于/powerha/下

 

10 安装并配置中间件

中间件和数据库主要应该了解调优和配置维护,安装就略了。  一般为 tuxedo weblogic

 主机配置浮动IP(业务可识别的IP,集群软件设置的,非实际IP)

 

这个笔记设计的东西已经算是比较老了,但是现在相信多数银行还在用,但是发展趋势是虚拟化,虚拟化的机器申请一般是通过一些软件,例如vmware的vcenter,相对来说,要比物理机器的安装要简单。推荐虚拟化云计算的一本入门书《云计算:从基础架构到最佳实践》相信看完之后,对虚拟化和云计算里面还入门的讲了下大数据,都会有一定的了解。

 

另外通过oracle rac asm 可以完全取代powerha。

通过powervm下也可以使用powerha。

每个应用都不一样,这里就不举例了。

 

 

 

 

 

 

 

 

 

 

 

附 AIX运维基础:

系统故障] AIX操作系统下应用系统的维护与性能优化

AIX, 性能优化

一、AIX系统数据安全措施

 

   在IBM小型机硬件配置期间,就应该考虑数据的安全性,系统资源的配置要满足容错处理的要求。主要应考虑以下几点:

 

  ①生产主机发生硬件故障后,备机可以马上自动接管应用系统;

  ②提高操作系统的硬件冗余,尽量减少单点故障对系统的影响;

  ③加强系统备份,减少系统版本升级造成的影响。

  针对以上要求,可以采取一些安全措施,主要是硬件资源的冗余备份、系统软件和应用软件的合理分布以及高可靠性集群软件的使用。我们的经验是:把AIX操作系统和HACMP(High Availability ClusterMulti-Processing)软件安装在rootvg上,因为rootvg损坏,系统将无法运行,即使通过备份磁带恢复,也会造成系统停机。因此在磁盘空间充裕的情况下,可考虑对rootvg作镜像。具体做法是将主机的两块内置硬盘做rootvg镜像,这样可提高系统的安全性,防止单块硬盘损坏对系统的影响,即使内置硬盘坏了一块,系统仍可正常运行。在建立rootvg镜像时,应尽量使用连接在不同SCSI上的硬盘,以做到负载均衡。另外,为提高系统的容错能力,可对磁盘阵列上的硬盘进行镜像配置(RAID0)或RAID5冗余配置,配置为datavg,在上面安装数据库和应用程序。为提高节点可靠性,可搭建HACMP集群环境,做到双机热备,即在2台互为备份的主机上配置HACMP参数,满足系统热备要求。在日常操作方面,要做好系统备份工作,定期对生产机做两个或两个以上的介质备份。

  1.rootvg的配置

   将hdisk0和hdisk1做成mirror,配置为rootvg。

  ①把hdisk0、hdisk1加到rootvg:smitty extentvg hdisk1、hdisk0 →rootvg。

  ②做mirror:mirrorvg -c 2 rootvg。

  ③在hdisk0、hdisk1上创建boot IMAGE:bosboot -ad hdisk0,bosboot -ad hdisk1。

  ④改变启动设备的顺序:bootlist -m normal hdisk0,hdisk1 cd0

  2.HACMP工作原理

  HACMP主要是对群集(cluster)资源的管理,根据应用复杂程度和配置的不同,其群集资源的接管时间在30秒到300秒不等,完全不需要人工干预。一个群集中的资源通常包括:应用程序、硬盘、卷组(VG)、文件系统、NFS文件系统、IP地址等。资源分属三类资源组(ResourceGroup):层递式(Cascading)、替换式(Rotating)、同时存取式(Concurrent)。不同类型的资源组对应不同的接管方式。一个群集中可以有几个资源组,它们可以分别是不同类型,因此,资源接管的方式可以多种多样,配置十分灵活。

  我们一般采用的是层递式方式,即热备份工作方式,其工作原理是:NodeA和NodeB都是资源组a的成员,该资源组a被设置成层递式方式,NodeA对其拥有最高优先级。因此NodeA在群集中处于active状态时,它会控制资源组a中的所有资源,此时NodeB处于闲置(idle)状态,仅当NodeAdown掉时,NodeB才会接管资源组a,一旦NodeA重新加入群集,NodeB将释放资源组aNodeA重新取得控制权。NodeB发生任何故障,不会造成任何影响。

 

  二、AIX系统维护经验

  1.故障信息的收集

  收集故障信息对于判断、诊断故障原因,修复系统非常重要。我们通过检查系统错误报告errorlog、发给root用户的错误报告mail和检查hacmp.outsmit.logboot.log等内容来判断系统是否发生故障,根据故障信息进行相应的处理。

   (1)系统故障记录

   errdemon 进程在系统启动时自动运行,记录包括硬件、软件及其他操作信息,故障记录文件为/var/adm/ras/errlog,可备份下来或拷贝到别的机器上分析,使用errpt 命令(普通用户权限也可使用)。

   #errpt |more 列出简短出错信息

   #errpt -d H 列出所有硬件出错信息

   #errpt -d S 列出所有软件出错信息

   #errpt -aj ERROR_ID 列出详细出错信息

   (2)控制面板上的LED 代码

   (3)SMS(System Management Service)故障记录

   当主控台出现键盘图标后(LED显示“E1F1时”)按1键。选择“Utilities”,选择“Error Log”,抄下8位故障代码。

   (4) Mail检查

   系统出现故障后会向root用户发mail,报告出错信息。通常系统出现故障后没有进行检查修复,系统还会定时以mail方式提醒root用户。

   (5)运行故障诊断程序

   对系统硬件进行检查和诊断,当发现有硬件故障时应立即使用diag。

   #diag

   > 选高级诊断(Advanced Diagnostic)

   > 选问题诊断(Problem Determination)或选系统检查(System Verification)

   diag运行后会给出SRN代码、故障设备名称及百分比数、地址代码等。

   (6)其他用于收集系统信息的命令

   lsdev -C 系统设备信息

   lspv 查看物理卷信息

   lsvg 查看卷组信息

   lslpp 查看文件组信息

   lsattr 查看设备参数设置

   lscfg 查看VPD(Virtual Product Data)信息

  2.系统硬件故障定位

   IBM 小型机硬件故障定位方法包括小型机机柜上的显示面板上的Checkpoints信息,ErrorCode和SRNs。Checkpoints检查点是系统加电CMOS初始化程序 (IPL,Initial ProgramLoad)运行后显示在机柜的显示面板上一系列信息。

   IPL流程如下:当系统加电后,自动进入IPL流程,IPL流程包括4个步骤,

  ①Service Processor的初始化,始于系统加电,直到OK显示在机柜上的显示面板上为止。这个步骤会显示8xxx或9xxx checkpoints代码。

  ②由Service Processor引导的硬件初始化,始于按下机柜上的白色电源开关。这个步骤会显示9xxx checkpoints。“91FF”是最后的代码,标志着第3步的开始。

  ③系统固件的初始化,一个系统处理器接管控制并继续初始化系统资源,这个步骤会显示Exxx。“E105”是最后的代码,标志着第4步骤AIX启动的开始。在这个过程中还会显示各种位置码(位置码代表着系统的每一个部分)。

  ④AIX启动,当AIX开始启动时,显示面板上的代码为0xxx,同时位置码会出现在第二行。当AIX的登录窗口出现在控制台上时,第4步骤结束,同时显示面板上再无任何信息显示。

   当系统运行发现错误时,SRNs码(Service requestnumbers,服务请求码)会以xxx-xxx的形式显示在显示面板上,同时在AIX的errorlog中也会进行登记;当SSA磁盘柜出现故障时,在磁盘柜前面板的液晶显示屏上会显示相应的SRNs,同时黄色的显示灯会闪动,在AIX的errorlog中会登记相应错误信息,在出现问题后记录下代码,并告之IBM公司解决。

  3.软件问题处理

   软件故障情况错综复杂,下面列举几个常见的故障处理方法。

   (1)文件系统空间不够

   查看有没有“满”的文件系统。特别是/、/var、/tmp,不要超过90%。文件系统满可导致系统不能正常工作,尤其是AIX的基本文件系统。如/ 根文件系统满则会导致用户不能登录。用df-k查看。

   # df -k 查看AIX的基本文件系统

   除/usr文件系统,其他文件系统都不应太满,一般不超过80%。

   处理方法1:删除垃圾文件

   # du -sk  |sort -rn |head

   查找出当前目录下占空间最大的子目录,逐层往下直到找出占空间最大的文件(要区分哪些目录是文件系统的 mountpoint,哪些是文件系统的子目录)。删除文件,释放空间。有时删除文件后空间并不马上释放,这是由于删除的文件正被某个程序打开。只有当这个程序停止后,空间才释放,有时甚至需要重启系统。

   处理方法2:增加文件系统大小

   # smitty chjfs

   只要卷组VG中有剩余空间,文件系统可以在任何时候加大。

   (2)检查文件系统的完整性

   # umount filesystem_name

   # fsck -y filesystem_name

   注意:文件系统必须先umount,再做检查和修复,否则将导致未知的后果。

   (3)查看卷组信息

   查看是否有“stale”状态的逻辑卷。若有,用syncvg命令修复。

   (4)检查内存交换区使用率

   检查使用率是否超过70%,若超过则用chps-sX pgname增加X个PP或用 mkps -a -n -sX myvg在myvg上增加一个PP数为X的内存交换区。

   (5)小型机内存泄漏问题

  小型机出现内存泄漏,即系统或应用进程无法将使用过的内存释放,使可用内存的容量逐渐减少。如果可用内存降到某最小值将造成系统或应用程序无法FORK子进程,就会造成系统瘫痪。通常我们可以用ps和sar命令来查看小型机内存和CPU占用率的大概情况以及各进程的内存和CPU占用率的发展趋势。使用ps命令,可查看内存和CPU占用率的基本情况。找出其中占用内存数不断变大的进程,这个进程可能就已经发生了内存泄漏。

  4.IBM HACMP 双机热备系统的管理和维护

   (1)HACMP 双机系统的启动

   以root用户身份分别进入系统各节点,执行# smit clstart命令。

   (2)HACMP 双机系统的关闭

   以root用户身份分别进入系统各节点,执行# smit clstop命令。

   (3)查询HACMP 双机系统的状态

  在双机系统的运行中,操作员只有知道双机系统的当前状态,才有可能对双机系统出现的异常情况进行恢复处理,保证双机系统的高可用性和高容错性。查询HACMP双机系统的状态,以root用户身份进入需要查询的节点,用# lssrc -gcluster命令检查HACMP双机软件在该节点是否已启动,系统显示3个active的信息,则说明HACMP 双机软件已正常启动。

   在确认双机软件HACMP 正常启动的情况下,在命令行执行# /usr/sbin/cluster/clstat -a命令查看双机系统的当前状态。

  5.网络故障处理

   (1)网络不通的诊断过程

   ifconfig 查看网卡是否启动(up);netstat-i查看网卡状态;Ierrs/Ipkts和Oerrs/Opkts是否>1%;ping本机网卡地址;ping其他机器地址,如不通,在其机器上用diag检测网卡是否有问题。

   在同一网中,子网掩码应一致。

   (2)网络配置的基本方法

   ①如需修改网络地址、主机名等,一定要用chdev 命令。

   # chdev -l inet0 -a hostname=myhost

   # chdev -l en0 -a netaddr='112.0.15.1' -a netmask=255.255.255.0'

   ②查看网卡状态:# lsdev -Cc-if

   ③确认网络地址:# ifconfig en0

   ④启动网卡:# ifconfig en0 up

   ⑤配置路由,有两种方式加入路由:

   a.永久路由

   # chdev -l inet0 -a route='112.1.15.2','112.0.15.254'

   b.临时路由

   # route add 112.1.15.2 112.0.15.254

   用命令 netstat -rn 查看路由表

  6.IBM公司的巡检流程

   IBM公司的巡检流程,对我们日常维护应重点关注的事项有所帮助,大家可以借鉴一下。

   (1)检查系统硬件情况:设备故障灯是否亮。

   (2)系统错误报告。

   (3)检查是否有发给root用户的错误报告。

   (4)检查hacmp.out,smit.log,boot.log。

   (5)关键系统的文件使用率不大于80%。

   (6)逻辑卷有否stale。

   (7)内存交换区使用率是否超过70%。

   (8)内存交换区的大小是否为物理内存的1.5倍。

   (9)检查备份情况(是否有系统备份、用户数据备份,磁带机是否需要清洗)。

   (10)检查通信设置(网卡、IP、路由表、ping、/etc/hosts、DNS设置等)。

   (11)是否有数据保护方式如RAID10/RAID5是否有Hot Spare。

   (12)系统DUMP设置是否正确。

   (13)检查系统参数是否正确。

   (14)检查rootvg是否镜像。

   (15)检查errdemon srcmstr是否正常运行。

   (16)检查机房环境(电压、湿度)。

   (17)检查系统性能:是否存在性能瓶颈topas vmstat 。

   (18)检查补丁程序(PTF)、微码(是否需要升级)。

   (19)进行HACMP测试:Cluster Verification。

   (20)进行系统硬件诊断:运行故障诊断程序(Diagnostic)。

 

   三、AIX系统参数优化

   AIX内核属于动态内核,核心参数基本上可以自动调整,因此当系统安装完毕后应考虑修改的参数一般包括以下内容。

  1.系统用户的最大登录数maxlogin

   maxlogin的具体大小可根据用户数设定,可以通过smitty chlicense命令修改,该参数记录在/etc/security/login.cfg文件中,修改在系统重新启动后生效。

  2.系统用户的limits参数

   这些参数位于/etc/security/limits文件中,可以把这些参数设为-1即无限制,可以用vi修改/etc/security/limits文件,所有修改在用户重新登录后生效。

  3.Paging Space

   检查PagingSpace的大小,在物理内存<2G时,应至少设定为物理内存的1.5倍,若物理内存>2G,可作适当调整。同时在创建Paging Space时应尽量分配在不同的硬盘上,提高其性能。利用smitty chps修改原有Paging Space的大小或利用smittymkps增加一块Paging Space。

  4.系统核心参数配置

   利用lsattr-Elsys0检查maxuproc,minpout,maxpout等参数的大小。maxuproc为每个用户的最大进程数通常如果系统运行Oracle应调整maxuproc,将Default:128调整到500,maxuproc增加可以马上生效。当应用涉及大量的顺序读写而影响前台程序响应时间时,可考虑将maxpout设为33minpout设为16,用smitty chgsys命令设置。

  5.文件系统空间的设定

  一般来说,文件系统/、/usr、/var、/tmp的使用率不应超过80%,/tmp建议至少为300M,文件系统满将导致系统不能正常工作,尤其是AIX的基本文件系统,如/根文件系统满则会导致用户不能登录。用df 查看:#df-k(查看AIX的基本文件系统),利用smittychfs扩展文件系统的空间。

  6.激活SSA Fast-Write Cache

   利用smitty ssafastw激活每一个逻辑盘hdiskn的Fast-Write Cache:选择硬盘后,把Enable Fast-Write改为Yes后,回车即可。

  7.High water mark for pending write I/Os per filemaxpout和Low water mark for pending write I/Os per file配置

   其缺省值为0,在双机环境中一般应将High water mark设为33 Low water mark设为24,这两个参数可用smitty chgsys来设置。

  8.syncd daemon的数据刷新频率

   该值表示刷新内存数据到硬盘的频率,缺省值为60,一般可改为20,也可根据实际情况更改。该参数通过/sbin/rc.boot配置,将nohup/usr/sbin/syncd 60>/dev/null 2>&1&参数中的60改为20即可。

 

  四、AIX系统备份和恢复

   备份和恢复是系统管理员经常要做的事情,主要包括rootvg备份和用户数据备份。

  1.操作系统和系统程序的备份

   #tctl -f /dev/rmt0 rewind

   #smit mksysb

   在“备份设备或文件”中添入“/dev/rmt0”后回车,系统会运行很长时间,等到屏幕显示OK后拿出磁带。这时候,系统备份完成。mksysb仅备份rootvg中已安装的文件系统。

  2.用户数据备份

   (1)常用磁带机选项

   /dev/rmt0 若选择/dev/rmt0,在插入磁带和写完一次磁带时,磁带机都将磁带反绕到头。因此下一次备份文件将覆盖本次备份。

   /dev/rmt0.1若选择/dev/rmt0.1则插入磁带和写完一次磁带时,磁带机均不反绕磁带。因此,一盘磁带可以连续备份几个文件或文件系统。

   (2)#smit fs

     选择“备份文件系统”,输入要备份的“文件系统名称”,输入“/dev/rmt0.1”,重复上述操作即可在同一盘磁带上备份多个文件系统。

  3.rootvg的恢复

   启动机器进入维护模式,当出现“Welcome to Base Operating System Installation andMaintanence”时,选3 “Start Maintenance Mode for SystemRecovery”,要恢复系统,继续选4“Install from a System Backup”,出现“Choose mksysbDevice”画面,选“/dev/rmt0”并插入磁带后回车,系统自动恢复操作系统。

  4.用户数据恢复

     #tctl -f /dev/rmt0 rewind

     #smit fs

     选择“恢复文件系统”,添入“设备名称”和“目标目录”,系统会自动恢复相应目录。

 

  五、AIX系统日常检查

   AIX系统日常检查工作是应用维护非常重要的部分,可以把系统故障排除在萌芽阶段,以下日常检查很有参考价值。

   (1)硬件检查

   检查各指示灯状态和各物理设备的可用情况。

   (2)进程检查

   检查是否有死进程,使用ps -ef命令列出正在运行的所有进程的各种信息。

   (3)文件系统是否满

   适用df-k 命令可以以k为单位检查文件系统的使用率。

   (4)检查系统出错日志

   使用errpt |more命令检查,清除现有的logErrclear 0。

   (5)检查系统合法/非法登录情况

   使用Last命令检查登录地点。

   (6)检查系统是否有巨大的Core文件生成

   使用find / -name core-print命令检查。对Core文件,一般直接删除即可。

   (7)系统性能检查

   ①CPU性能:使用Vmstat topas命令检查。

   ②内存使用情况:使用topas,vmstat命令检查。

   ③检查IO平衡使用情况:使用iostat命令检查。

   ④交换空间使用情况:使用lsps -a命令检查。

   (8)Mail检查 

 

 

金融应用系统上线部署实施方案 AIX P570 + EMC DMX4-950


更多文章、技术交流、商务合作、联系博主

微信扫码或搜索:z360901061

微信扫一扫加我为好友

QQ号联系: 360901061

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描下面二维码支持博主2元、5元、10元、20元等您想捐的金额吧,狠狠点击下面给点支持吧,站长非常感激您!手机微信长按不能支付解决办法:请将微信支付二维码保存到相册,切换到微信,然后点击微信右上角扫一扫功能,选择支付二维码完成支付。

【本文对您有帮助就好】

您的支持是博主写作最大的动力,如果您喜欢我的文章,感觉我的文章对您有帮助,请用微信扫描上面二维码支持博主2元、5元、10元、自定义金额等您想捐的金额吧,站长会非常 感谢您的哦!!!

发表我的评论
最新评论 总共0条评论