01/01/2015 RAC FAQ

RAC FAQ
What components in RAC must reside in shared storage?
All datafiles, controlfiles, SPFIles, redo log files must reside on cluster­aware shred storage.
What is the significance of using  cluster­aware shared storage in an Oracle RAC environment?
All instances of an Oracle RAC can access all the datafiles,control files, SPFILE's, redolog files when these files are hosted out of cluster­aware shared storage
Give few examples for solutions that support cluster storage:­
ASM(automatic storage management),raw disk devices,network file system(NFS), OCFS2 and OCFS(Oracle Cluster Fie systems).

What is an interconnect network?
an interconnect network is a private network that connects all of the servers in a cluster. The interconnect network uses a switch/multiple switches that only the 

How can we configure the cluster interconnect?
Configure User Datagram Protocol(UDP) on  Gigabit ethernet for cluster interconnect.On unia and linux systems we use UDP and RDS(Reliable data socket) p
Can we use crossover cables with Oracle Clusterware interconnects?
No, crossover cables are not supported with Oracle Clusterware intercnects.

What is the use of cluster interconnect?
Cluster interconnect is used by the Cache fusion for inter instance communication.
How do users connect to database in an Oracle RAC environment?
Users can access a RAC database using a client/server configuration or through one or more middle tiers ,with or without connection pooling.Users can use ora

What is the use of a service in Oracle RAC environemnt?
Applications should use the services feature to connect to the Oracle database.Services enable us to define rules and characteristics to control how users and a

What are the characteriscs controlled by Oracle services feature?
The charateristics include a unique name, workload balancing and failover options,and high availability characteristics.
Which enable the  load balancing of applications in RAC?
Oracle Net Services enable the load balancing of application connections across all of the instances in an Oracle RAC database.

What is a virtual IP address or VIP?
A virtl IP address or VIP is an alternate IP address that the client connectins use instead of the standard public IP address. To configureVIP address, we need t
as the public network.

What is the use of VIP?
If a node fails, then the node's VIP address fails over to another node on which the VIP address can accept TCP connections but it cannot accept Oracle conne
Give situations under which VIP address failover happens:­
VIP addresses failover happens when the node on which the VIP address runs fails, all interfaces for the VIP address fails, all interfaces for the VIP address are
What is the significance of VIP address failover?
When a VIP address failover happens, Clients that attempt to connect to the VIP address receive a rapid connection refused error .They don't have to wait for T
What are the administrative tools used for Oracle RAC environments?
Oracle RAC cluster can be administered as a single image using OEM(Enterprise manager), SQL*PLUS,Servercontrol (SRVCTL), clusterverificationutility(cvu),
How do we verify that RAC instances are running?
Issue the following query from any one node connecting through SQL*PLUS.
$connect sys/sys as sysdba
SQL>select * from V$ACTIVE_INSTANCES;
The query gives the instance number under INST_NUMBER column,host_:instancename under INST_NAME column.
What is FAN?
Fast application Notification as it abbreviates to FAN relates to the events related to instances,services and nodes.This is a notification mechanism that Oracle R
includes service status changes such as,UP or DOWN events.Applications can respond to FAN events and take immediate action.FAN UP and FAN DOWN ev

Where can we apply FAN UP and DOWN events?
State the use of FAN events in case of a cluster configuration change?
During times of cluster configuration changes,Oracle RAC high availability framework publishes a FAN event immediately when a state change occurs in the clu
applications from polling database and detecting a problem after such a state change.
Why should we have seperate homes for ASm instance?
It is a good practice to have ASM home seperate from the database hom(ORACLE_HOME).This helps in upgrading and patching ASM and the Oracle databas
independent of the ASM instance.
What is the advantage of using ASM?
Having ASM is the Oracle recommended storage option for RAC databases as the ASM maximizes performance by managing the storage configuration across
within our cluster database environment.
What is rolling upgrade?
It is a new ASM feature from Database 11g.ASM instances in Oracle database 11g release(from 11.1) can be upgraded or patched using rolling upgrade featur
affecting database availability.During a rolling upgrade we can maintain a functional cluster while one or more of the nodes in the cluster are running in different
Can the DML_LOCKS and RESULT_CACHE_MAX_SIZE be identical on all instances?
These parameters can be identical on all instances only if these parameter values are set to zero.
What two parameters must be set at the time of starting up an ASM instance in a RAC environment?The parameters CLUSTER_DATABASE and INSTANCE_T
Mention the components of Oracle clusterware:­
Oracle clusterware is made up of components like voting disk and Oracle Cluster Registry(OCR). What is a CRS resource?
Oracle clusterware is used to manage high­availability operations in a cluster.Anything that Oracle Clusterware manages is known as a CRS resource.Some ex
application process etc.
What is the use of OCR?
Oracle clusterware manages CRS resources based on the configuration information of CRS resources stored in OCR(Oracle Cluster Registry).

How does a Oracle Clusterware manage CRS resources?
Oracle clusterware manages CRS resources based on the configuration information of CRS resources stored in OCR(Oracle Cluster Registry).

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 1/7
01/01/2015 RAC FAQ
Name some Oracle clusterware tools and their uses?
OIFCFG ­ allocating and deallocating network interfaces
OCRCONFIG ­ Command­line tool for managing Oracle Cluster Registry
OCRDUMP ­ Identify the interconnect being used
CVU ­ Cluster verification utility to get status of CRS resources
What are the modes of deleting instances from ORacle Real 

Application cluster Databases?
We can delete instances using silent mode or interactive mode using DBCA(Database Configuration Assistant).

How do we remove ASM from a Oracle RAC environment?
We need to stop and delete the instance in the node first in interactive or silent mode.After that asm can be removed using srvctl tool as follows:
srvctl stop asm ­n node_name
srvctl remove asm ­n node_name
We can verify if ASM has been removed by issuing the following command:
srvctl config asm ­n node_name

How do we verify that an instance has been removed from OCR after deleting an instance?
Issue the following srvctl command:

srvctl config database ­d database_name
cd CRS_HOME/bin
./crs_stat
How do we verify an existing current backup of OCR?
We can verify the current backup of OCR using the following command : ocrconfig ­showbackup
What are the performance views in an Oracle RAC environment?
We have v$ views that are instance specific. In addition we have GV$ views called as global views that has an INST_ID column of numeric data type.GV$ view

What are the types of connection load­balancing?
There are two types of connection load­balancing:server­side load balancing and client­side load balancing.
What is the differnece between server­side and client­side connection load balancing?
Client­side balancing happens at client side where load balancing is done using listener.In case of server­side load balancing listener uses a load­balancing adv
Give the usage of srvctl:­
srvctl start instance ­d db_name ­i "inst_name_list" [­o start_options]srvctl stop instance ­d name ­i "inst_name_list" [­o stop_options]srvctl stop instance ­d orcl 
database ­d name [­o stop_options]srvctl start database ­d orcl ­o mount

How do I identify the OCR file location 

check /var/opt/oracle/ocr.loc or /etc/ocr.loc ( depends upon platform)
or
#ocrcheck

Is ssh required for normal Oracle RAC operation ?

"ssh" are not required for normal Oracle RAC operation. However "ssh" should be enabled for Oracle RAC and patchset installation.

What is SCAN?

Single Client Access Name (SCAN) is s a new Oracle Real Application Clusters (RAC) 11g Release 2 feature that provides a single name for clients to access a
change if you add or remove nodes in the cluster.

Click here for more details from Oracle

What is the purpose of Private Interconnect ?

Clusterware uses the private interconnect for cluster synchronization (network heartbeat) and daemon communication between the the clustered nodes. This co
RAC uses the interconnect for cache fusion (UDP) and inter­process communication (TCP). Cache Fusion is the remote memory mapping of Oracle buffers, sh

Why do we have a Virtual IP (VIP) in Oracle RAC?

Without using VIPs or FAN, clients connected to a node that died will often wait for a TCP timeout period (which can be up to 10 min) before getting an error. As
When a node fails, the VIP associated with it is automatically failed over to some other node and new node re­arps the world indicating a new MAC address for 
packets back to the clients. This results in the clients getting errors immediately.

What do you do if you see GC CR BLOCK LOST in top 5 Timed Events in AWR Report? 

This is most likely due to a fault in interconnect network.
Check netstat ­s
if you see "fragments dropped" or "packet reassemblies failed" , Work with your system administrator find the fault with network.

How many nodes are supported in a RAC Database?

10g Release 2, support 100 nodes in a cluster using Oracle Clusterware, and 100 instances in a RAC database.

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 2/7
01/01/2015 RAC FAQ

Srvctl cannot start instance, I get the following error PRKP‐1001 CRS‐0215, however sqlplus can start it on both nodes? How do you identify the problem?

Set the environmental variable SRVM_TRACE to true.. And start the instance with srvctl. Now you will get detailed error stack.

what is the purpose of the ONS daemon?

The Oracle Notification Service (ONS) daemon is an daemon started by the CRS clusterware as part of the nodeapps. There is one ons daemon started per clu
The Oracle Notification Service daemon receive a subset of published clusterware events via the local evmd and racgimon clusterware daemons and forward th

Useful tips about Oracle RAC

Oracle Clusterware Management – 2
———————————
Step 0. First of all check the version of Oracle Clusterware

$crsctl query crs softwareversion
CRS software version on node [suw­sohora­01] is [10.2.0.4.0]

$crsctl query crs activeversion
CRS active version on the cluster is [10.2.0.4.0]

Step 0. how to find cluster name

$cat ocr_dump | grep ­A 1 clustername | grep ORATEXT | awk ‘{print “clustername: ” $3}’

grep ­A 1 {NUM} tells how many lines after the matching should show up

awk – just print the 3rd column here

—————­
Step 1. Check to see if Oracle Clusterware is in the PATH

$echo $PATH | grep crs

Normally crs executables are in $ORACLE_BASE/product/10.2.0/crs/bin directory

———­
Step 2. Check to see if Oracle Clusterware is running

$crsctl check crs

CSS appears healthy
CRS appears healthy
EVM appears healthy

———­
Step 3. Check to see if all the Clusterware components DEAMONS are running

$ps aux | grep ocssd
$ps aux | grep crsd
$ps aux | grep evmdo

———–
step 4. Check if OCR is in Shared Filesystem and local_only parameter set to FALSE

$more /etc/oracle/ocr.loc
ocrconfig_loc=/dev/raw/raw2
local_only=FALSE

Note: OCR must be located on Shared storage and must be accessable to all nodes at all the times.

Step 5. Check the Voting Disk Location

$crsctl query css votedisk

0. 0 /dev/raw/raw1
located 1 votedisk(s).

———–
Step 6. Check the Inter­connect communication of RAC nodes – Oracle Interface Configuration tool

$oifcfg iflist ­p ­n
eth0 10.100.15.0 PUBLIC 255.255.255.0
eth1 10.100.16.0 PRIVATE 255.255.255.0

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 3/7
01/01/2015 RAC FAQ
$oifcfg getif
eth0 10.100.15.0 global public
eth1 10.100.16.0 global cluster_interconnect

————
Step 7. How to stop/start Oracle Clusterware – MUST be login as ROOT

# crsctl stop crs
Stopping resources. This could take several minutes.
Successfully stopped CRS resources.
Stopping CSSD.
Shutting down CSS daemon.
Shutdown request successfully issued.

# crsctl start crs

—————­
Step 8. How to disable/Enable Oracle Clusterware – MUST be login as ROOT .If we want Oracle Clusterware not to restart next time the system is reb
#crsctl disable crs

#crsctl enable crs

—————–
Step 9. How many nodes are in this cluster?

$olsnodes ­n ­p ­i

—————–
Step 10. How to take OCR output in a text file?

$ocrdump ocr_dump.log
OR
$ocrdump ­stdout ­xml
OR
$ocrdump ­stdout ­keyname SYSTEM ­xml
OR
$ocrdump ­stdout ­xml | more

—————–
Step 11. How to check of OCR is not damaged?

$ocrcheck

Status of Oracle Cluster Registry is as follows :
Version : 2
Total space (kbytes) : 1048100
Used space (kbytes) : 7280
Available space (kbytes) : 1040820
ID : 533591647
Device/File Name : /dev/raw/raw2
Device/File integrity check succeeded
Device/File not configured
Cluster registry integrity check succeeded

Note: if it says “Device/File not configured, that mean OCR Mirror is not configured.

——————
Step 13. Check if OCR backup exists

#ocrconfig ­showbackup

Note: Always use RESTORE command to restore OCR from automated generated backups as shown from above command

——————
Step 14. How to backup and Restore OCR

A. Export OCR contents to a file

# ocrconfig ­export /home/oracle/orc_backup

let’s change one parameter misscount from its value 60 to 120 but we have taken backup when its value was 60

# crsctl get css misscount

took backup

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 4/7
01/01/2015 RAC FAQ
#crsctl set css misscount 120

Restoring OCR

#crsctl stop crs

#ocrconfig ­import /home/oracle/ocr_backup

#crsctl start crs

#ocrcheck

————————­
OCR Summary

OCRCONFIG – Use this utility to performs administrative operations in OCR
OCRDUMP – Use this utility to dumps the contents of OCR into a text file
OCRCHECK – Use this utility to verify the integrity of OCR

—————————
Step 15. Check CRS_STAT to see all the resources

$crs_stat OR $crs_stat ­t OR $crs_stat ­ls

To see if all RAC instances are up:
$crs_stat | grep ­A 4 inst

NAME=ora.CARAC.CARAC1.inst
TYPE=application
TARGET=ONLINE
STATE=ONLINE on suw­sohora­01

To see if all the listeners are up:
$crs_stat ­t | grep lsnr

To see all the Services
$crs_stat | grep ­A 4 cs
AND
$crs_stat ­t | grep srv

To see if Database is up:
$crs_stat ­t | grep db

——————————
Step 16. how to Administer voting disk

first query the voting disk location
#crsctl query css votedisk

Backup voting disk
#dd if= of=

Restoring voting disk
#dd if= of=

——————————­
Step 17. How to manage RAC database
Use recommended method SRVCTL to manage RAC DB as it stored its information in OCR.
SRVCTL can manage the following objects
Database
Instance
Service
Node Applications (GSD,ONS,VIP)
ASM
Listener (can also be manage separately by LSNRCTL)

–First get the help of SRVCTL
$SRVCTL ­help
OR
$SRVCTL ­h ( to show commands)
OR
$SRVCTL ­h
OR
srvctl [options]

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 5/7
01/01/2015 RAC FAQ
–Check the Current version of SRVCTL
$SRVCTL ­V
srvctl version: 10.2.0.0.0

–How to start RAC database named RACDB
$srvctl start database ­d [­o ] [­c | q]
This command will start all the instances for the database.
#NAME?
By default connet string parameter defaults to :/ AS SYSDBA”
$srvctl start database ­d RACDB

–How to stop RAC database named RACDB
$srvctl stop database ­d [­o ] [­c | q]
#NAME?
By default connet string parameter defaults to :/ AS SYSDBA”
$srvctl stop database ­d RACDB

================================================================
1. Where are the clusterware files stored on a RAC environment?
The clusterware is installed on each node (on an Oracle Home) and on the shared disks (the voting disks and the CSR file)

2. Where are the database software files stored on a RAC environment?
The base software is installed on each node of the cluster and the database storage on the shared disks. 

 3. What kind of storage we can use for the shared clusterware files?
­ OCFS (Release 1 or 2) 
­ raw devices 
­ third party cluster filesystem such as GPFS or Veritas 

 4. What kind of storage we can use for the RAC database storage?
­ OCFS (Release 1 or 2) 
­ ASM 
­ raw devices 
­ third party cluster filesystem such as GPFS or Veritas
  
5. What is a CFS?
A cluster File System (CFS) is a file system that may be accessed (read and write) by all members in a cluster at the same time. This implies that all members o
  
6. What is an OCFS2?
The OCFS2 is the Oracle (version 2) Cluster File System which can be used for the Oracle Real Application Cluster. 
  
7. Which files can be placed on an Oracle Cluster File System?
­ Oracle Software installation (Windows only)
­ Oracle files (controlfiles, datafiles, redologs, files described by the bfile datatype)
­ Shared configuration files (spfile)

­ OCR and voting disk
­ Files created by Oracle during runtime 

Note: There are some platform specific limitations. 

 8. Do you know another Cluster Vendor?
HP Tru64 Unix, Veritas, Microsoft 

 9. How is possible to install a RAC if we don’t have a CFS?
This is possible by using a raw device. 

10. What is a raw device?
A raw device is a disk drive that does not yet have a file system set up. Raw devices are used for Real Application Clusters since they enable the sharing of dis
  
11. What is a raw partition?
A raw partition is a portion of a physical disk that is accessed at the lowest possible level. A raw partition is created when an extended partition is created and lo
called cooked partition.

 12. When to use CFS over raw?
A CFS offers:
­ Simpler management
­ Use of Oracle Managed Files with RAC
­ Single Oracle Software installation
­ Autoextend enabled on Oracle datafiles
­ Uniform accessibility to archive logs in case of physical node failure
­ With Oracle_Home on CFS, when you apply Oracle patches CFS guarantees that the updated Oracle_Home is visible to all nodes in the cluster.

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 6/7
01/01/2015 RAC FAQ
Note: This option is very dependent on the availability of a CFS on your platform.

13. When to use raw over CFS?

­ Always when CFS is not available or not supported by Oracle.
­ The performance is very, very important: Raw devices offer best performance without any intermediate layer between Oracle and the disk.
Note: Autoextend fails on raw devices if the space is exhausted. However the space could be added online if needed.
  
14. What CRS is?
Oracle RAC 10g Release 1 introduced Oracle Cluster Ready Services (CRS), a platform­independent set of system services for cluster environments. In Releas

15. How to find out the OCR (Oracle cluster Registry) backup location and details in RAC database 
In RAC , the OCR backups are taken automatically by the crs process,The OCR backups are taken at every 4 hrs. At any one time, Oracle clusterware retains

To get the details of OCR backup issue the following comamnd.

$CRS_HOME/bin/ocrconfig ‐showbackup

$cd /oraunix/app/oracle/product/10.2.0/crs/cdata/crs

$ls –altr

The backups should be owned by root user , othe wise oracle will not overwrite the backups and new files will be created an dconsume the space, as in this
[root@rac2 crs]# ls ‐al *.ocr

data:text/html;charset=utf­8,%3Cdiv%20class%3D%22article­header%22%20style%3D%22margin%3A%200px%3B%20outline%3A%20none%3B%20pa… 7/7