Linux 搭建 SecGPT

发表于2024-01-18|更新于2024-02-06|Linux

|总字数:169|阅读时长:1分钟|浏览量:

前言

3080Ti 只有 12GB 显存跑不起来？
不行，直接搞两张 Tesla P40 回来

SecGPT

1	https://github.com/Clouditera/secgpt

拉取源码

1	git clone https://github.com/Clouditera/secgpt.git

安装依赖

python3-pip

1	sudo apt install python3-pip

安装官方依赖

1	python3 -m pip install -r requirements.txt

gradio

1	python3 -m pip install --upgrade gradio

sentencepiece

1	python3 -m pip install --upgrade sentencepiece

transformers_stream_generator

1	python3 -m pip install transformers_stream_generator

torch

获取 torch 组件下载链接

1	https://pytorch.org/get-started/locally/

安装升级 torch_CUDA 组件

1	python3 -m pip install --upgrade torch torchvision torchaudio

下载及运行 LLM 模型

居然都是同一条指令
可能需要掌握上网技巧

1 2	cd ./webdemo python3 webdemo.py --base_model w8ay/secgpt

运行成功效果

参考 & 引用

https://blog.csdn.net/Jay_Alon/article/details/128941761

文章作者: JimLeon595

文章链接: http://blog.jimleon595.top/posts/6146fdcd.html

版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 JimLeon595！

Multi_Platform Linux 安装教程 AIGC LLM

相关推荐

Linux 搭建 OrionStarAI

前言 Skip! Skip!! Skip!!! 模型下载 1git clone https://huggingface.co/OrionStarAI/Orion-14B-Chat-Plugin OrionStarAI/Orion-14B-Chat-Plugin 安装依赖 Orion 需要引用 flash-attn 要提前安装好 CUDA Toolkit 安装前依赖安装 ninja ninja 用于提高编译效率 1python3 -m pip install ninja 安装 packaging 1python3 -m pip install packaging 安装 torch 1python3 -m pip install torch 安装 numpy 1python3 -m pip install numpy 安装 flash-attn 编译安装 flash-attn 1python3 -m pip install flash-attn Pyhton 直接推理进入 Python 环境 1python 逐条输入命令 1234567891...

Linux 安装及配置 Langchain Chatchat

前言 Skip! Skip!! Skip!!! 前期准备创建虚拟环境 1conda create -n LangChain python=3.11 进入虚拟环境 1conda activate LangChain Python 版本确认你的 Python 版本为 3.11 1python -V LangChain 基础配置拉取源码 1git clone https://github.com/chatchat-space/Langchain-Chatchat.git 进入目录 1cd ./Langchain-Chatchat/ 安装依赖 123python3 -m pip install -r requirements.txtpython3 -m pip install -r requirements_api.txtpython3 -m pip install -r requirements_webui.txt 设置指定版本依赖 SecGPT 基于 BaiChuan 然后环境配的一塌糊涂 12python3 -m pip install --upgrade tor...

VPS 安装及配置 Zabbix Agent

开放端口服务端需要开启10051端口客户端需要开启10050端口腾讯云服务器 – 防火墙 – 添加规则阿里云云服务器 – 安全组 – 安全组规则 Windows VPS 也是和之前的Windows端一样但是有些不一样的就是可能某些服务器需要去防火墙放行某些端口搜索wf.msc进入高级安全 Windows Defender 防火墙新建出站规则，选择端口设置特定远程端口为10050 允许连接配置文件选择网络区域填写该规则的名称 Linux VPS 也是和之前的Linux端一样但是有些不一样的就是可能某些服务器需要去防火墙放行某些端口查看 Zabbix 客户端端口情况 1lsof -i 10050 安装 iptables 进行管理防火墙端口 1sudo apt install iptables iptables 开放 Zabbix 相关端口 1iptables -I INPUT -p tcp --dport 10050 -j ACCEPT 使用 iptables-persistent 对防火墙规则持...

Linux 安装及配置 Zabbix Agent

前言不多废话，直接来 Ubuntu 安装 Zabbix Agent Ubuntu对比CentOS真的好方便直接一条命令就安装好了 12sudo apt updatesudo apt install zabbix-agent CentOS 安装 Zabbix Agent CentOS真的要什么没什么都不知道为什么这么多大佬在用废话不多说直接开始反正我都是抄官方文档 1https://www.zabbix.com/cn/download 添加 Zabbix 存储库 12sudo rpm -Uvh https://repo.zabbix.com/zabbix/6.0/rhel/7/x86_64/zabbix-release-6.0-4.el7.noarch.rpmsudo yum clean all Yum 安装 1sudo yum install zabbix-agent 配置开机启动 1sudo systemctl enable zabbix-agent 修改 Zabbix Agent 配置文件 1sudo vim /etc/zabbix/zabbix_agentd.c...

Windows 直接搭建 SecGPT

前言想玩一下 LLM 直接来试试吧 SecGPT 1https://github.com/Clouditera/secgpt 前期准备拉取源码 1git clone https://github.com/Clouditera/secgpt.git 安装依赖官方依赖包 1python -m pip install -r requirements.txt sentencepiece 1python -m pip install sentencepiece transformers_stream_generator 1python -m pip install transformers_stream_generator 下载及运行 LLM 模型 12cd .\webdemo\python webdemo.py --base_model w8ay/secgpt 运行成功效果存在问题设置服务器端口启动端口报错 GRADIO_SERVER_PORT 被占用修改 webdemo.py 文件 12- demo.queue().launch(server_nam...

AWVS Xray 联动渗透测试

前言我们先安装好我们要用的工具吧 AWVS 安装我们下载完之后直接安装接下来基本上就是下一步下一步 AWVS 设置账号密码我们随便设置一个账号密码吧 AWVS 设置管理页面端口基本上我们就默认就好如果我们需要在网络上访问管理页面的话我们需要勾选一下Allow remote access to Acunetix 添加 AWVS 证书为了正常访问某些网站我们需要安装 AWVS 自签名的证书安装完成 AWVS 激活使用管理员权限用开心工具进行激活设置中文 User --> Profile --> Language【简体】 --> Save 安装 Xray Xray 的使用方法比较简单只需要我们下载好已经开心的包还有系统安装好Python3的环境【建议使用 Python 3.10】 Xray --help 我们来看一下Xray能干点什么吧 1xary.exe --help AWVS Xray 联动 Xray 开启监听我们先使用Xray进行监听 1.\xray.exe webscan --listen 127...

数据加载中