멍청해서 기록한다

[ OS ] VMware CentOS 8 가상환경 구축

개발근로자 — Thu, 31 Aug 2023 20:16:14 +0900

1. VMware 설치

VMware Workstation Player - VMware Customer Connect

2. CentOS 8 Down

CentOS Mirrors List

isoredirect.centos.org

이하 생략..

Window Disk/Systemfile 검사

개발근로자 — Sat, 28 Aug 2021 04:26:57 +0900

cmd관리자로 실행

1) chkdsk /f

2) sfc /scannow

3) DISM.exe /Online /Cleanup-image /Restorehealth

X server 종료 방법

개발근로자 — Mon, 5 Jul 2021 18:29:31 +0900

서비스를 종료하니 우선순위를 바꾸니 하라는데

아래 명령이면 한번에 처리됨

sudo killall /usr/bin/X

SQream 아키텍처

개발근로자 — Mon, 28 Jun 2021 18:07:32 +0900

아키텍처

임시 저장

GPFS 설치

개발근로자 — Mon, 16 Nov 2020 15:16:31 +0900

1. GPFS 3.5 Base 버전 파일을 준비합니다.

2. #smitty installp 를 통해서 설치를 진행합니다.

3.그리고, 다양한 명령어들을(mmls,mmcr 등 GPFS에 관련된 명령어) 사용하기 위해서 PATH 설정을 합니다.

4. 캡처본에는 빠져있으나 /etc/hosts에 각 node들을 등록해야 합니다. 그리고 /.rhost 에 각 node 명을 등록하여야 합니다. 그렇지 않으면 tiebreakerdisk 설정시 rshd 에러가 발생합니다.

/etc/hosts

192.168.0.xxx gpfs1

192.168.0.xxx gpfs2

5. GPFS 각 노드들을 등록할 파일을 생성합니다.

# vi /var/mmfs/conf/nodefile

* 경로와 파일명은 본인이 주고 싶은대로 주면 됩니다.

6. mmcrcluster 실행 ( -n [Node File], -p [Primary node], -s [Secondary node], -C [Clustar Name])

# mmcrcluster -n /var/mmfs/conf/nodefile -p gpfs1 -s gpfs2 -C gpfs

7. mmlscluster 로 정보 확인합니다.

8. GPFS3.3 버전 부터는 License 등록이 추가 되었습니다. 하기 내용으로 등록하시면 됩니다.

9. 하기 내용에는 빠져있으나, 디스크정보 파일 생성을 해야 합니다.

# vi /var/mmfs/conf/diskfile

hdisk1:::dataAndMetadata:2:DATA1

hdisk2:::dataAndMetadata:2:DATA2

hdisk3:::dataAndMetadata:2:DATA3

hdisk4:::descOnly:-1:tie1

hdisk5:::descOnly:-1:tie2

옵션값 설명

dataAndMetadata = default 로써 data 와 metadata 모두 저장 가능

descOnly = file system의 descriptor나 데이터 복구를 위한 내용들이 저장

참고로 direct attach 이기 때문에 NSD Server 사용을 하지 않았습니다.

10. NSD(Network Shared Disk) 생성

11. 이후 tiebreakerDisk 속성 값을 변경하기 위해 GPFS 내린 후 속성값을 변경해 줍니다.

* tiebreakerdisk는 quorum node 와 혼용해서 사용을 하는데, 예를 들어 quorum node가 2개인 GPFS 환경이 있을때, tiebreakerdisk 가 없을시, 하나의 node가 죽게 되면, active 율이 51%미만이 되기 때문에 양쪽 node가 stop 되게 됩니다. 그래서 tiebreakerdisk를 혼용하게 되면, 앞과 같은 위험성을 방지 할 수 있게 됩니다.

12. 양쪽 GPFS를 startup 합니다.

13. 파일시스템 파일을 생성합니다.

# vi /var/mmfs/conf/fs1

14. 만들어진 파일을 토대로 FS 를 생성합니다.

* 하기 내용은 3.5 base 버전 이후 패치로 버전업을 하였는데, 릴리즈 변경을 안해주어서 발생한 오류.

# mmchconfig release=LATEST 로 해결 할수 있습니다.

15. 다시 파일 시스템 생성 합니다.

16. 파일 시스템 생성 된지를 확인합니다.

# cat /etc/filesystems

17. mmmount 옵션으로 파일 시스템 마운트 합니다.

# mmmount /DATA1 -a

-a 옵션으로 양쪽 node 동시 마운트

출처: it-engineer-choi.tistory.com/7

GPFS 구성 확인

개발근로자 — Mon, 16 Nov 2020 15:10:23 +0900

[GPFS 구성 확인하기 -> 모두 root권한으로 수행해야 함]

1. manager node ( Master node ) 확인하기
- mmlsmgr 커맨드로 확인
- [예시]
[root@inwas1:/] mmlsmgr
file system manager node
---------------- ------------------
Fileupdn_gpfs 100.100.1.3 (in_was1_gpfs)
handy_gpfs 100.100.1.3 (in_was1_gpfs)
log_gpfs 100.100.1.3 (in_was1_gpfs)
mail_gpfs 100.100.1.3 (in_was1_gpfs)
web_gpfs 100.100.1.3 (in_was1_gpfs)

Cluster manager node: 100.100.1.3 (in_was1_gpfs)

-> 5개의 Filesystem이 구성되어 있고, 100.100.1.3 node가 Manager node로 설정되어 있음.

2. 각 Filesystem이 사용하고 있는 Disk ( NSD 정보 ) 확인
- mmlsnsd 커맨드로 확인
- 각 Filesystem 별로 NSD명과 실제 논리 Device명과의 mapping 정보를 알 수 있음.
- nmon 등에서 Disk I/O 가 많은 disk가 발견되는 경우 어디의 Filesystem에서 I/O가 심한지
이 mapping 정보를 바탕으로 확인 가능함.
- [예시]
[root@inwas1:/] mmlsnsd -M

Disk name NSD volume ID Device Node name Remarks
---------------------------------------------------------------------------------------
Fileupdn1 C0A8C95B4AA88F92 /dev/hdisk5 in_was1_gpfs server node
Fileupdn1 C0A8C95B4AA88F92 /dev/hdisk5 in_was2_gpfs server node
-- 중략--
Fileupdn3 C0A8C85B4D01E0DD /dev/hdisk25 in_was1_gpfs server node
Fileupdn3 C0A8C85B4D01E0DD /dev/hdisk25 in_was2_gpfs server node
data1 C0A8C95B4AB36169 /dev/hdisk6 in_was1_gpfs server node
data1 C0A8C95B4AB36169 /dev/hdisk6 in_was2_gpfs server node
data10 C0A8C95B4AB36175 /dev/hdisk15 in_was1_gpfs server node
data10 C0A8C95B4AB36175 /dev/hdisk15 in_was2_gpfs server node
-- 중략--
data7 C0A8C95B4AB36171 /dev/hdisk12 in_was1_gpfs server node
data7 C0A8C95B4AB36171 /dev/hdisk12 in_was2_gpfs server node
data8 C0A8C95B4AB36173 /dev/hdisk13 in_was1_gpfs server node
data8 C0A8C95B4AB36173 /dev/hdisk13 in_was2_gpfs server node
data9 C0A8C95B4AB36174 /dev/hdisk14 in_was1_gpfs server node
data9 C0A8C95B4AB36174 /dev/hdisk14 in_was2_gpfs server node
mail1 C0A8C95B4AB8CCC7 /dev/hdisk30 in_was1_gpfs server node
mail1 C0A8C95B4AB8CCC7 /dev/hdisk30 in_was2_gpfs server node
mail10 C0A8C85B4F42EF85 /dev/hdisk43 in_was1_gpfs server node
mail10 C0A8C85B4F42EF85 /dev/hdisk43 in_was2_gpfs server node
-- 중략 --
mail8 C0A8C95B4AB8CCD0 /dev/hdisk38 in_was1_gpfs server node
mail8 C0A8C95B4AB8CCD0 /dev/hdisk38 in_was2_gpfs server node
mail9 C0A8C85B4F42EF84 /dev/hdisk42 in_was1_gpfs server node
mail9 C0A8C85B4F42EF84 /dev/hdisk42 in_was2_gpfs server node
nsd_tb1 C0A8C95B4A9F942A /dev/hdisk26 in_was1_gpfs server node
nsd_tb1 C0A8C95B4A9F942A /dev/hdisk26 in_was2_gpfs server node
waslog1 C0A8C95B4A9F9434 /dev/hdisk2 in_was1_gpfs server node
waslog1 C0A8C95B4A9F9434 /dev/hdisk2 in_was2_gpfs server node
-- 중략--
waslog5 C0A8C85B4DDF9028 /dev/hdisk41 in_was1_gpfs server node
waslog5 C0A8C85B4DDF9028 /dev/hdisk41 in_was2_gpfs server node
web_app1 C0A8C95B4A9F943F /dev/hdisk4 in_was1_gpfs server node
web_app1 C0A8C95B4A9F943F /dev/hdisk4 in_was2_gpfs server node

3. Filesystem 안의 disk 상세정보 확인
- mmlsdisk 로 확인 하며, Failure Group 및 status 정보확인 가능함.
- [예시]
[root@inwas1:/] mmlsdisk Fileupdn_gpfs
disk driver sector failure holds holds storage
name type size group metadata data status availability pool
------------ -------- ------ ------- -------- ----- ------------- ------------ ------------
Fileupdn1 nsd 512 -1 yes yes ready up system
Fileupdn2 nsd 512 -1 yes yes ready up system
Fileupdn3 nsd 512 -1 yes yes ready up system

- Fileupdn_gpfs 라는 Filesystem 은 3개의 disk로 구성되고 Faillure Group은 -1 로 동일
- status 는 모두 정상.

4. Filesystem 안의 disk간의 Fragmentation 확인
- mmdf 커맨드로 확인
- [예시]
[root@outwas1:/] mmdf log_gpfs
disk disk size failure holds holds free KB free KB
name in KB group metadata data in full blocks in fragments
--------------- ------------- -------- -------- ----- -------------------- -------------------
Disks in storage pool: system (Maximum disk size allowed is 207 GB)
waslog1 21058560 -1 yes yes 18392576 ( 87%) 38904 ( 0%)
waslog2 21058560 -1 yes yes 18398464 ( 87%) 39608 ( 0%)
waslog3 21058560 1 yes yes 18586368 ( 88%) 20152 ( 0%)
waslog4 21058560 1 yes yes 18582784 ( 88%) 21808 ( 0%)
waslog5 21058560 1 yes yes 18580992 ( 88%) 15384 ( 0%)
------------- -------------------- -------------------
(pool total) 105292800 92541184 ( 88%) 135856 ( 0%)

============= ==================== ===================
(total) 105292800 92541184 ( 88%) 135856 ( 0%)

Inode Information
-----------------
Number of used inodes: 9513
Number of free inodes: 415447
Number of allocated inodes: 424960
Maximum number of inodes: 1000448

- log_gpfs라는 Filesystem은 5개 disk로 구성되어 있으며, 비교적 균등하게 file의 data가 분배되어 있음을 알수 있음.
- 부가적으로 inode 가 부족한지에 대한 정보도 기재되어 있으므로 이에 대한 추가적인 확인도 가능함.
- 만약, disk별로 파일이 균등하게 분배되지 않고 있다면 online상에서 restrpe 가능함.
( 다만, 심각한 I/O를 일으키기 때문에 업무가 거의 없는 시간대를 골라서 해야 함 )

5. GPFS config 정보 확인
- mmfsadm dump config 커맨드로 확인
- 각종 parameter에 대한 정보 수접가능함.
- pagepool size 나 maxFilesToCache 수치 정도만 튜닝. 나머지 parameter는 굉장히 많으나
사용량을 봐가면서 튜닝을 할필요가 있으며, 장애 시 FailOver time을 단축시킬 수 있는 parameter도 확인 가능함.
튜닝 관련 파라미터는 아래 URL 참조
http://www.ibm.com/developerworks/wikis/display/hpccentral/GPFS+Tuning+Parameters

출처: https://cloudit.tistory.com/18 [REAL STORY]cloudit.tistory.com/18

NAS, SAN 비교

개발근로자 — Mon, 16 Nov 2020 13:57:52 +0900

NAS : 하드디스크를 운영체제가 공유해 주는 방식 입니다. 윈도우의 네트워크드라이브 같은거죠..

SAN :
- 물리적 측면에서 보면, 하드디스크 하나에 SATA케이블을 여러개 연결하여 여러대의 PC에 하나의 하드디스크를 공유하는 개념입니다. 그런데, 하드디스크 하나에 여러개의 SATA케이블을 연결할 수 없으니 이것을 여러개 연결할 수 있도록 SAN Switch를 사용하는것입니다. (물론 실질적으로 보면 SATA케이블을 사용하지는 않고 주로 광케이블을 사용합니다.)
- 논리적 측면에서 보면, 일반적인 파일시스템(NTFS, Ext3등)은 하나의 하드디스크가 하나의 운영체제에 연결되었을때를 기준으로 만들어져 있습니다. 그래서 하나의 하드디스크를 여러대의 PC(운영체제)가 쓸 수 있는 특별한 파일시스템을 사용합니다.
- 장점 : NAS는 하드디스크로부터 데이터를 읽어서, 그 하드디스크에 연결된 PC의 운영체제를 거쳐서 데이터를 전송합니다. 데이터를 받는쪽에서도 마찬가지 과저을 거치고요. 하지만, SAN은 SAN Switch 같은곳에서 약간의 오버헤드는 발생하겠지만, 하드디스크를 직접 연결한 것과 거의 같은 성능을 냅니다.
- 단점 : 비싸고 관리하기 어려워요

설명 찰지다.

출처:2cpu.co.kr/bbs/board.php?bo_table=QnA&wr_id=676357

인터넷 끊김 발생시 대처법

개발근로자 — Fri, 16 Oct 2020 22:49:25 +0900

1. 데스크탑 확인

cmd창에서 ping 127.0.0.1

2. 공유기 확인

cmd에서 ipconfig 로 게이트웨이 확인

ping 게이트웨이번호

3. ip재발급

cmd에서

ipconfig /release

ipconfig /renew

이것만해도 단선된거 아니면 원인 찾을 수 있음

데몬 모니터링 툴

개발근로자 — Fri, 10 Apr 2020 11:59:04 +0900

모르면 고생하지만 알면 알수록 참 편하다..

참조:

https://mmonit.com/monit/

Easy, proactive monitoring of processes, programs, files, directories, filesystems and hosts | Monit

Open Source Monit is free, open source software. You can redistribute Monit and/or modify Monit under the terms of the GNU Affero General Public License (AGPL). The license only applies if you plan to distribute Monit to third parties. The reason we use AG

mmonit.com

https://blog.naver.com/PostView.nhn?blogId=forioso&logNo=220925413932&redirect=Dlog&widgetTypeCall=true&directAccess=false

★[Monit] 서비스모니터링

서비스를 하다보면 서비스 데몬이 가끔 죽는 경우가 있다. 특히 트래픽이 많거나 내부적으로 먼가 불안할...

blog.naver.com

nvidia-smi 관련

개발근로자 — Tue, 17 Mar 2020 16:06:10 +0900

하하.

nvidia 드라이버 설치하고

nvidia-smi 치면 대충 gpu 달린놈들 나옴

서비스가 gpu사용하도록 물리려면 export CUDA_VISIBLE_DEVICE='GPU번호'

사용 후 서비스 실행

정리는 나중에 시간나면 ㅠ.............. 나겠지?