CMDB-Windows下收集数据(四)

一、windows中收集硬件信息

为了收集运行Windows操作系统的服务器的硬件信息,我们需要编写一个专门的脚本。

在Pycharm的Client目录下的plugins包中,新建一个windows包,然后创建一个sys_info.py文件,写入下面的代码:

==<如下打印data的语句,是为了调试查看输出,可以去掉>==

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time    : 2019-3-2 16:41
# @Author  : zhdya@zhdya.cn
# @File    : sys_info.py

import platform
import win32com
import wmi

"""
本模块基于windows操作系统,依赖wmi和win32com库,需要提前使用pip进行安装,
或者下载安装包手动安装。
"""


def collect():
    data = {
        'os_type': platform.system(),
        'os_release': "%s %s  %s " % (platform.release(), platform.architecture()[0], platform.version()),
        'os_distribution': 'Microsoft',
        'asset_type': 'server'
    }

    # 分别获取各种硬件信息
    win32obj = Win32Info()
    data.update(win32obj.get_cpu_info())
    data.update(win32obj.get_ram_info())
    data.update(win32obj.get_motherboard_info())
    data.update(win32obj.get_disk_info())
    data.update(win32obj.get_nic_info())
    # 最后返回一个数据字典
    print("data11", data)
    return data



class Win32Info(object):

    def __init__(self):
        # 固定用法,更多内容请参考模块说明
        self.wmi_obj = wmi.WMI()
        self.wmi_service_obj = win32com.client.Dispatch("WbemScripting.SWbemLocator")
        self.wmi_service_connector = self.wmi_service_obj.ConnectServer(".", "root\cimv2")

    def get_cpu_info(self):
        """
        获取CPU的相关数据,这里只采集了三个数据,实际有更多,请自行选择需要的数据
        :return:
        """
        data = {}
        cpu_lists = self.wmi_obj.Win32_Processor()
        cpu_core_count = 0
        for cpu in cpu_lists:
            cpu_core_count += cpu.NumberOfCores

        cpu_model = cpu_lists[0].Name   # CPU型号(所有的CPU型号都是一样的)
        data["cpu_count"] = len(cpu_lists)      # CPU个数
        data["cpu_model"] = cpu_model
        data["cpu_core_count"] = cpu_core_count  # CPU总的核数
        print("data22", data)
        return data

    def get_ram_info(self):
        """
        收集内存信息
        :return:
        """
        data = []
        # 这个模块用SQL语言获取数据
        ram_collections = self.wmi_service_connector.ExecQuery("Select * from Win32_PhysicalMemory")
        for item in ram_collections:    # 主机中存在很多根内存,要循环所有的内存数据
            ram_size = int(int(item.Capacity) / (1024**3))  # 转换内存单位为GB
            item_data = {
                "slot": item.DeviceLocator.strip(),
                "capacity": ram_size,
                "model": item.Caption,
                "manufacturer": item.Manufacturer,
                "sn": item. SerialNumber,
            }
            data.append(item_data)  # 将每条内存的信息,添加到一个列表里
        print("data33", data)
        return {"ram": data}    # 再对data列表封装一层,返回一个字典,方便上级方法的调用

    def get_motherboard_info(self):
        """
        获取主板信息
        :return:
        """
        computer_info = self.wmi_obj.Win32_ComputerSystem()[0]
        system_info = self.wmi_obj.Win32_OperatingSystem()[0]
        data = dict()
        data['manufacturer'] = computer_info.Manufacturer
        data['model'] = computer_info.Model
        data['wake_up_type'] = computer_info.WakeUpType
        data['sn'] = system_info.SerialNumber
        print("data44", data)
        return data

    def get_disk_info(self):
        """
        硬盘信息
        :return:
        """
        data = []
        for disk in self.wmi_obj.Win32_DiskDrive():     # 每块硬盘都要获取相应信息
            item_data = dict()
            iface_choices = ["SAS", "SCSI", "SATA", "SSD"]
            for iface in iface_choices:
                if iface in disk.Model:
                    item_data['iface_type'] = iface
                    break
            else:
                item_data['iface_type'] = 'unknown'
            item_data['slot'] = disk.Index
            item_data['sn'] = disk.SerialNumber
            item_data['model'] = disk.Model
            item_data['manufacturer'] = disk.Manufacturer
            item_data['capacity'] = int(int(disk.Size) / (1024**3))
            data.append(item_data)
        print("data55", data)
        return {'physical_disk_driver': data}

    def get_nic_info(self):
        """
        网卡信息
        :return:
        """
        data = []
        for nic in self.wmi_obj.Win32_NetworkAdapterConfiguration():
            if nic.MACAddress is not None:
                item_data = dict()
                item_data['mac'] = nic.MACAddress
                item_data['model'] = nic.Caption
                item_data['name'] = nic.Index
                if nic.IPAddress is not None:
                    item_data['ip_address'] = nic.IPAddress[0]
                    item_data['net_mask'] = nic.IPSubnet
                else:
                    item_data['ip_address'] = ''
                    item_data['net_mask'] = ''
                data.append(item_data)
        print("data66", data)
        return {'nic': data}

if __name__ == "__main__":
    # 测试代码(仅限于在当前页面运行获取本机的信息)
    dic = collect()
    print(dic)
windows中没有方便的命令可以获取硬件信息,但是有额外的模块可以帮助我们实现目的,这个模块叫做wmi。可以使用
pip install wmi
的方式安装,当前版本是1.4.9。但是wmi安装后,import wmi依然会出错,因为它依赖一个叫做win32com的模块。

我们依然可以通过

pip install pypiwin32
来安装win32com模块,但是不幸的是,据反映,有些机器无法通过pip成功安装。所以,这里我在github中提供了一个手动安装包==pywin32-220.win-amd64-py3.5(配合wmi模块,获取主机信息的模块).exe==,方便大家。
链接:https://pan.baidu.com/s/14ZUKPJnmlwuUHsYLUUApKg 
提取码:nq5i

依赖包的问题解决后,我们来看一下==sys_info.py==脚本的代码。

  • 核心在于collect()方法!
  • 该方法首先通过platform模块获取平台的信息,然后保存到一个data字典中。
  • 然后创建一个Win32Info对象,并调用win32的各种功能方法,分别获取CPU、RAM、主板、硬盘和网卡的信息。
  • 类Win32Info是我们编写的封装了具体数据收集逻辑的类;
  • 该类中有很多方法,每个方法针对一项数据;
  • 其中对Win32模块的调用方式是固定的,有兴趣的可以自行学习这个模块的官方文档
  • 每一类的数据收集完成后都会作为一个新的子字典,update到开始的data字典中,最终形成完整的信息字典。
  • 最后在脚本末尾有一个测试入口。

整个脚本的代码其实很简单,我们只要将Win32的方法调用当作透明的空气,剩下的不过就是将获得的数据,按照我们指定的格式打包成一个数据字典。

==强调:数据字典的格式和键值是非常重要的,是预设的,不可以随意改变!==

二、信息收集测试

单独运行一下该脚本(注意不是运行CMDB项目),查看一下生成的数据:

data22 {'cpu_core_count': 4, 'cpu_count': 1, 'cpu_model': 'Intel(R) Core(TM) i5-7300HQ CPU @ 2.50GHz'}
data33 [{'slot': 'DIMM A', 'capacity': 8, 'manufacturer': '802C0000802C', 'model': '物理内存', 'sn': '1B458788'}]
data44 {'sn': '00330-80000-00000-AA069', 'manufacturer': 'Dell Inc.', 'model': 'Latitude 5480', 'wake_up_type': 6}
data55 [{'slot': 0, 'capacity': 238, 'manufacturer': '(标准磁盘驱动器)', 'model': 'SAMSUNG SSD PM871b M.2 2280 256GB', 'iface_type': 'SSD', 'sn': '      S3U0NY0K244546'}]
data66 [{'name': 1, 'mac': '00:50:56:C0:00:08', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000001] VMware Virtual Ethernet Adapter for VMnet8', 'ip_address': '192.168.171.1'}, {'name': 2, 'mac': '00:50:56:C0:00:01', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000002] VMware Virtual Ethernet Adapter for VMnet1', 'ip_address': '192.168.209.1'}, {'name': 3, 'mac': '00:FF:E2:52:B5:09', 'net_mask': '', 'model': '[00000003] TAP-Windows Adapter V9', 'ip_address': ''}, {'name': 4, 'mac': '10:65:30:11:8A:8A', 'net_mask': '', 'model': '[00000004] Intel(R) Ethernet Connection (5) I219-LM', 'ip_address': ''}, {'name': 5, 'mac': '68:EC:C5:86:F1:DC', 'net_mask': ('255.255.240.0', '64'), 'model': '[00000005] Intel(R) Dual Band Wireless-AC 8265', 'ip_address': '10.10.7.26'}, {'name': 6, 'mac': '68:EC:C5:86:F1:DD', 'net_mask': '', 'model': '[00000006] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': ''}, {'name': 7, 'mac': '68:EC:C5:86:F1:E0', 'net_mask': '', 'model': '[00000007] Bluetooth Device (Personal Area Network)', 'ip_address': ''}, {'name': 13, 'mac': '14:74:20:52:41:53', 'net_mask': '', 'model': '[00000013] WAN Miniport (IP)', 'ip_address': ''}, {'name': 14, 'mac': '14:FC:20:52:41:53', 'net_mask': '', 'model': '[00000014] WAN Miniport (IPv6)', 'ip_address': ''}, {'name': 15, 'mac': '16:0F:20:52:41:53', 'net_mask': '', 'model': '[00000015] WAN Miniport (Network Monitor)', 'ip_address': ''}, {'name': 16, 'mac': '6A:EC:C5:86:F1:DC', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000016] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': '192.168.137.1'}]
data11 {'manufacturer': 'Dell Inc.', 'model': 'Latitude 5480', 'cpu_core_count': 4, 'os_distribution': 'Microsoft', 'asset_type': 'server', 'cpu_model': 'Intel(R) Core(TM) i5-7300HQ CPU @ 2.50GHz', 'nic': [{'name': 1, 'mac': '00:50:56:C0:00:08', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000001] VMware Virtual Ethernet Adapter for VMnet8', 'ip_address': '192.168.171.1'}, {'name': 2, 'mac': '00:50:56:C0:00:01', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000002] VMware Virtual Ethernet Adapter for VMnet1', 'ip_address': '192.168.209.1'}, {'name': 3, 'mac': '00:FF:E2:52:B5:09', 'net_mask': '', 'model': '[00000003] TAP-Windows Adapter V9', 'ip_address': ''}, {'name': 4, 'mac': '10:65:30:11:8A:8A', 'net_mask': '', 'model': '[00000004] Intel(R) Ethernet Connection (5) I219-LM', 'ip_address': ''}, {'name': 5, 'mac': '68:EC:C5:86:F1:DC', 'net_mask': ('255.255.240.0', '64'), 'model': '[00000005] Intel(R) Dual Band Wireless-AC 8265', 'ip_address': '10.10.7.26'}, {'name': 6, 'mac': '68:EC:C5:86:F1:DD', 'net_mask': '', 'model': '[00000006] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': ''}, {'name': 7, 'mac': '68:EC:C5:86:F1:E0', 'net_mask': '', 'model': '[00000007] Bluetooth Device (Personal Area Network)', 'ip_address': ''}, {'name': 13, 'mac': '14:74:20:52:41:53', 'net_mask': '', 'model': '[00000013] WAN Miniport (IP)', 'ip_address': ''}, {'name': 14, 'mac': '14:FC:20:52:41:53', 'net_mask': '', 'model': '[00000014] WAN Miniport (IPv6)', 'ip_address': ''}, {'name': 15, 'mac': '16:0F:20:52:41:53', 'net_mask': '', 'model': '[00000015] WAN Miniport (Network Monitor)', 'ip_address': ''}, {'name': 16, 'mac': '6A:EC:C5:86:F1:DC', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000016] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': '192.168.137.1'}], 'physical_disk_driver': [{'slot': 0, 'capacity': 238, 'manufacturer': '(标准磁盘驱动器)', 'model': 'SAMSUNG SSD PM871b M.2 2280 256GB', 'iface_type': 'SSD', 'sn': '      S3U0NY0K244546'}], 'wake_up_type': 6, 'sn': '00330-80000-00000-AA069', 'cpu_count': 1, 'os_release': ' 64bit  10.0.17763 ', 'ram': [{'slot': 'DIMM A', 'capacity': 8, 'manufacturer': '802C0000802C', 'model': '物理内存', 'sn': '1B458788'}], 'os_type': 'Windows'}
{'manufacturer': 'Dell Inc.', 'model': 'Latitude 5480', 'cpu_core_count': 4, 'os_distribution': 'Microsoft', 'asset_type': 'server', 'cpu_model': 'Intel(R) Core(TM) i5-7300HQ CPU @ 2.50GHz', 'nic': [{'name': 1, 'mac': '00:50:56:C0:00:08', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000001] VMware Virtual Ethernet Adapter for VMnet8', 'ip_address': '192.168.171.1'}, {'name': 2, 'mac': '00:50:56:C0:00:01', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000002] VMware Virtual Ethernet Adapter for VMnet1', 'ip_address': '192.168.209.1'}, {'name': 3, 'mac': '00:FF:E2:52:B5:09', 'net_mask': '', 'model': '[00000003] TAP-Windows Adapter V9', 'ip_address': ''}, {'name': 4, 'mac': '10:65:30:11:8A:8A', 'net_mask': '', 'model': '[00000004] Intel(R) Ethernet Connection (5) I219-LM', 'ip_address': ''}, {'name': 5, 'mac': '68:EC:C5:86:F1:DC', 'net_mask': ('255.255.240.0', '64'), 'model': '[00000005] Intel(R) Dual Band Wireless-AC 8265', 'ip_address': '10.10.7.26'}, {'name': 6, 'mac': '68:EC:C5:86:F1:DD', 'net_mask': '', 'model': '[00000006] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': ''}, {'name': 7, 'mac': '68:EC:C5:86:F1:E0', 'net_mask': '', 'model': '[00000007] Bluetooth Device (Personal Area Network)', 'ip_address': ''}, {'name': 13, 'mac': '14:74:20:52:41:53', 'net_mask': '', 'model': '[00000013] WAN Miniport (IP)', 'ip_address': ''}, {'name': 14, 'mac': '14:FC:20:52:41:53', 'net_mask': '', 'model': '[00000014] WAN Miniport (IPv6)', 'ip_address': ''}, {'name': 15, 'mac': '16:0F:20:52:41:53', 'net_mask': '', 'model': '[00000015] WAN Miniport (Network Monitor)', 'ip_address': ''}, {'name': 16, 'mac': '6A:EC:C5:86:F1:DC', 'net_mask': ('255.255.255.0', '64'), 'model': '[00000016] Microsoft Wi-Fi Direct Virtual Adapter', 'ip_address': '192.168.137.1'}], 'physical_disk_driver': [{'slot': 0, 'capacity': 238, 'manufacturer': '(标准磁盘驱动器)', 'model': 'SAMSUNG SSD PM871b M.2 2280 256GB', 'iface_type': 'SSD', 'sn': '      S3U0NY0K244546'}], 'wake_up_type': 6, 'sn': '00330-80000-00000-AA069', 'cpu_count': 1, 'os_release': ' 64bit  10.0.17763 ', 'ram': [{'slot': 'DIMM A', 'capacity': 8, 'manufacturer': '802C0000802C', 'model': '物理内存', 'sn': '1B458788'}], 'os_type': 'Windows'}

上面的信息包含操作系统、主板、CPU、内存、硬盘、网卡等各种信息。可以看到我有1条内存,1块SSD硬盘,以及4块网卡。四块网卡有出现mac地址相同的情况,因为那是虚拟机的。

你自己的数据和我的肯定不一样,但是数据格式和键值必须一样,我们后面自动分析数据、填充数据,都依靠这个固定格式的数据字典。

通过测试我们发现数据可以收集到了,那么再测试一下数据能否正常发送到服务器。

三、数据发送测试

由于我这里采用了Linux虚拟机作为测试用例,我们的Django服务器就不能再运行在127.0.0.1:8000上面了。

查看一下当前机器的IP,发现是192.168.1.100,修改项目的settings.py文件,将ALLOWED_HOSTS修改如下:

ALLOWED_HOSTS = ["*"]

这表示接收所有同一局域网内的网络访问。

然后以0.0.0.0:8000的参数启动CMDB,表示对局域网内所有ip开放服务。

mark

回到客户端,进入Client/bin目录,运行

python main.py report_data
可以看到如下结果:
正在将数据发送至: [http://10.10.7.26:8000/assets/report/]  ......
handler_data_encode-->> b'asset_data=%7B%22cpu_core_count%22%3A+4%2C+%22cpu_model%22%3A+%22Intel%28R%29+Core%28TM%29+i5-7300HQ+CPU+%40+2.50GHz%22%2C+%22wake_up
...<中间信息省略>...
71b+M.2+2280+256GB%22%2C+%22capacity%22%3A+238%7D%5D%2C+%22cpu_count%22%3A+1%2C+%22os_distribution%22%3A+%22Microsoft%22%2C+%22asset_type%22%3A+%22server%22%7D
'
?[31;1m发送失败,HTTP Error 404: Not Found?[0m
日志记录成功!

这是一个404错误,表示服务器地址没找到,这是因为我们还没有为Django编写接收数据的视图和路由。

这时,打开log目录下的日志文件,内容如下:

发送时间:2019-03-03 10:49:26 	 服务器地址:http://10.10.7.26:8000/assets/report/ 	 返回结果:发送失败

四、接收数据

进入==cmdb/urls.py==文件中,编写一个二级路由,将所有++assets相关的数据都转发到assets.urls++中,如下所示:

from django.contrib import admin
from django.conf.urls import url, include

urlpatterns = [
    url('admin/', admin.site.urls),
    url(r'^assets/', include('assets.urls')),
]

然后,我们在assets中新建一个urls.py文件,写入下面的代码:

from django.conf.urls import url
from assets import views

app_name = 'assets'

urlpatterns = [
    url(r'^report/', views.report, name='report'),
]
这样,我们的路由就写好了。

转过头,我们进入++assets/views.py++文件,写一个简单的视图。

from django.shortcuts import render

# Create your views here.

from django.shortcuts import render, HttpResponse

def report(request):
    if request.method == "POST":
        asset_data = request.POST.get('asset_data')
        print(asset_data)
        return HttpResponse("成功收到数据!")

代码很简单,接收POST过来的数据,打印出来,然后返回成功的消息。

重新运

行python main.py report_data
可以看到:

正在将数据发送至: [http://10.10.7.26:8000/assets/report/]  ......
handler_data_encode-->> b'asset_data=%7B%22ram%22%3A+%5B%7B%22manufacturer%22%3A+%22802C0
...<中间部分省略>...
%22%3A+%22Latitude+5480%22%2C+%22sn%22%3A+%2200330-80000-00000-AA069%22%2C+%22os_distribution%22%3A+%22Microsoft%22%2C+%22manufacturer%22%3A+%22Dell+Inc.%22%7D
'
?[31;1m发送失败,<urlopen error [WinError 10061] 由于目标计算机积极拒绝,无法连接。>?[0m
日志记录成功!

遇到拒绝服务的错误了。

原因在于我们模拟浏览器发送了一个POST请求给Django,但是请求中没有携带Django需要的csrf安全令牌,所以拒绝了请求。

为了解决这个问题,我们需要在这个report视图上忽略csrf验证,可以通过Django的@csrf_exempt装饰器。修改代码如下:

from django.shortcuts import render, HttpResponse
from django.views.decorators.csrf import csrf_exempt

# Create your views here.

@csrf_exempt
def report(request):
    if request.method == "POST":
        asset_data = request.POST.get('asset_data')
        print(asset_data)
        return HttpResponse("成功收到数据!")

重启CMDB服务器,再次从客户端报告数据,可以看到返回结果如下:

正在将数据发送至: [http://10.10.7.26:8000/assets/report/]  ......
handler_data_encode-->> b'asset_data=%7B%22nic%22%3A+%5B%7B%22name%22%3A+1%2C+%22model%22%3A+%22%5B00000001%5D+VMware+Virt
...<中间部分省略>...
facturer%22%3A+%22802C0000802C%22%2C+%22slot%22%3A+%22DIMM+A%22%2C+%22sn%22%3A+%221B458788%22%2C+%22model%22%3A+%22%5Cu7269%5Cu7406%5Cu5185%5Cu5b58%22%7D%5D%7D
'
?[31;1m发送完毕!?[0m
返回结果:成功收到数据!
日志记录成功!
看下日志记录:
发送时间:2019-03-03 10:49:26 	 服务器地址:http://10.10.7.26:8000/assets/report/ 	 返回结果:发送失败 
发送时间:2019-03-03 11:00:53 	 服务器地址:http://10.10.7.26:8000/assets/report/ 	 返回结果:发送失败 
发送时间:2019-03-03 11:05:36 	 服务器地址:http://10.10.7.26:8000/assets/report/ 	 返回结果:发送失败 
发送时间:2019-03-03 11:06:51 	 服务器地址:http://10.10.7.26:8000/assets/report/ 	 返回结果:成功收到数据!

这表明数据发送成功了。

再看Pycharm中,也打印出了接收到的数据,一切OK!

CSRF验证的问题解决了,但是又带来新的安全问题。我们可以通过增加用户名、密码,或者md5验证或者自定义安全令牌的方式解决,这部分内容就不展开了。

Windows下的客户端已经验证完毕了,然后我们就可以通过各种方式让脚本定时运行、收集和报告数据,一切都自动化。

最后补充:

++CMDB系统是部署在A服务器上,那么客户端CLIENT是需要部署在B服务器上的,那就意味着每台需要被采集数据的服务器都要安装PYTHON及所用到的包。++