super-gradients图像变换预览
背景
在做cv训练时,经常需要对图像变换做调整,需要一个可视化的变换前后图像对比
实现
import base64
from typing import List, Union
from io import BytesIO
from PIL import Image
import numpy as np
import torch
from torch.utils.data import DataLoader
from PIL import Image
from super_gradients.training.datasets.detection_datasets.coco_format_detection import (
COCOFormatDetectionDa...
super-gradients使用
背景
super-gradients,一个做CV相关的模型训练和微调的库
训练格式
支持多种格式,以下默认采用COCO格式
https://albumentations.ai/docs/getting_started/bounding_boxes_augmentation/#coco
基础训练方式
参考 https://github.com/Deci-AI/super-gradients/blob/master/notebooks/yolo_nas_custom_dataset_fine_tuning_with_qat.ipynb
一些额外的注意点:
train_dataset_params = {
"data_dir": "./datasets",
...
ssh隧道转发
命令解析1
ssh -N -L 9999:c.c.c.c:1343 admin@b.b.b.b
ssh:使用 SSH 连接远程服务器。
-N:不执行远程命令,仅用于端口转发(适用于隧道场景)。
-L 9999:c.c.c.c:1343:设置本地端口转发,其中:
9999(本地端口):本地机器(执行该命令的机器)的 9999 端口。
c.c.c.c:1343(目标地址):SSH 服务器 (b.b.b.b) 能够访问的目标主机 c.c.c.c 的 1343 端口。
这意味着本地 9999 端口的数据会通过 b.b.b.b 这个跳板机,最终转发到 c.c.c.c:1343。
admin@b.b.b.b:以 admin 用户身份连接 b.b.b.b(跳板机/中转服务器)。
实际作用...
istio cors config
参考
https://istio.io/latest/docs/reference/config/networking/virtual-service/#CorsPolicy
https://istio.io/latest/docs/reference/config/networking/virtual-service/#StringMatch
https://stackoverflow.com/questions/65862613/istio-request-authentication-getting-cors-with-result-404
配置位置
可以在gateway配置,也可以在virtual service中配置
配置内容
spec:
gat...
istio external authorization server问题排查
流程
安装grpcurl
$ curl -LO https://github.com/fullstorydev/grpcurl/releases/latest/download/grpcurl_1.9.2_linux_amd64.deb
$ dpkg -i grpcurl_1.9.2_linux_amd64.deb
$ grpcurl -plaintext localhost:9999 list
envoy.service.auth.v3.Authorization
grpc.reflection.v1.ServerReflection
grpc.reflection.v1alpha.ServerReflection
发送请求进行测试
# 参照github.com/envo...
flask数据库表升级
依赖库
flask
flask-migrate
flask-sqlalchemy
相关代码
# extensions/ext_db.py
from flask_sqlalchemy import SQLAlchemy
db = SQLAlchemy()
def init(app):
db.init_app(app)
# extensions/ext_migrate.py
import flask_migrate
def init(app, db):
flask_migrate.Migrate(app, db)
# app.py
from flask import Flask
from extensions import ext_db...
监督微调模型
基础微调方式
from os import path
from accelerate import Accelerator, PartialState
from datasets import load_dataset
from transformers import AutoModelForCausalLM, BitsAndBytesConfig, AutoTokenizer
from trl import SFTTrainer, SFTConfig
from peft import LoraConfig, PeftModel, get_peft_model
from peft.utils.peft_types import TaskType
from transformers....
36 post articles, 6 pages.