温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Golang操作TSV文件的方法是什么

发布时间:2023-05-11 16:54:59 来源:亿速云 阅读:86 作者:iii 栏目:开发技术

这篇“Golang操作TSV文件的方法是什么”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Golang操作TSV文件的方法是什么”文章吧。

认识TSV文件

也许你之前不了解TSV文件,无需担心,它很简单、很常用。TSV(tab-separated values)文件表示以tab分割值的文件格式,也就是说,TSV文件包括一系列数据信息,其中数据使用tab符(也称制表符,\t)进行分割。与CSV文件格式类似,CSV使用半角逗号(,)分割。

TSV文件和CSV文件一样,非常通用,被大多数平台或处理软件支持,但TSV文件采用不可见制表符作为分隔符,被用户误用的概率较低,相对CSV容错性更好。

Golang 读取TSV文件

golang 包encoding/csv提供了csv文件的读写功能,我们值得tsv和csv的差异仅为分隔符,因此下面代码可以很容易读取tsv:

package main

import (
    "encoding/csv"
    "fmt"
    "log"
    "os"
)

func main() {

    f, err := os.Open("users.csv")

    if err != nil {

        log.Fatal(err)
    }

    r := csv.NewReader(f)
    r.Comma = '\t'
    r.Comment = '#'

    records, err := r.ReadAll()

    if err != nil {
        log.Fatal(err)
    }

    fmt.Print(records)
}

解析为结构体

一般我们希望读取tsv文件并解析为struct,下面一起看一些开源代码实现。tsv文件可能包括标题行,同时字段增加tsv标签,示例如下:

type TestTaggedRow struct {
    Age    int    `tsv:"age"`
    Active bool   `tsv:"active"`
    Gender string `tsv:"gender"`
    Name   string `tsv:"name"`
}

因此定义Parse类型:

// Parser has information for parser
type Parser struct {
    Headers    []string      // 标题数组
    Reader     *csv.Reader   // 读取器
    Data       interface{}   // 希望解析为结构体的类型
    ref        reflect.Value // 反射值
    indices    []int // indices is field index list of header array
    structMode bool  // 结构模式,结构体有tsv标签
    normalize  norm.Form     // 解析UTF8方式
}

定义无标题行的机构函数:

// NewParserWithoutHeader creates new TSV parser with given io.Reader
func NewParserWithoutHeader(reader io.Reader, data interface{}) *Parser {
    r := csv.NewReader(reader)
    r.Comma = '\t'

    p := &Parser{
        Reader:    r,
        Data:      data,
        ref:       reflect.ValueOf(data).Elem(),
        normalize: -1,
    }

    return p
}

带标题行的解析构造函数:

// NewStructModeParser creates new TSV parser with given io.Reader as struct mode
func NewParser(reader io.Reader, data interface{}) (*Parser, error) {
    r := csv.NewReader(reader)
    r.Comma = '\t'

    // 读取一行,即标题行;函数字符串数组
    headers, err := r.Read()

    if err != nil {
        return nil, err
    }

    // 循环给标题数组赋值
    for i, header := range headers {
        headers[i] = header
    }

    p := &Parser{
        Reader:     r,
        Headers:    headers,
        Data:       data,
        ref:        reflect.ValueOf(data).Elem(),
        indices:    make([]int, len(headers)),
        structMode: false,
        normalize:  -1,
    }

    // get type information
    t := p.ref.Type()

    for i := 0; i < t.NumField(); i++ {
        // get TSV tag
        tsvtag := t.Field(i).Tag.Get("tsv")
        if tsvtag != "" {
            // find tsv position by header
            for j := 0; j < len(headers); j++ {
                if headers[j] == tsvtag {
                    // indices are 1 start
                    p.indices[j] = i + 1
                    p.structMode = true
                }
            }
        }
    }

    if !p.structMode {
        for i := 0; i < len(headers); i++ {
            p.indices[i] = i + 1
        }
    }

    return p, nil
}

与上面无标题行相比,多了解析tsv标签的逻辑。

下面开始解析每行数据,我们看Next()方法:

// Next puts reader forward by a line
func (p *Parser) Next() (eof bool, err error) {

    // Get next record
    var records []string

    for {
        // read until valid record
        records, err = p.Reader.Read()
        if err != nil {
            if err.Error() == "EOF" {
                return true, nil
            }
            return false, err
        }
        if len(records) > 0 {
            break
        }
    }

    if len(p.indices) == 0 {
        p.indices = make([]int, len(records))
        // mapping simple index
        for i := 0; i < len(records); i++ {
            p.indices[i] = i + 1
        }
    }

    // record should be a pointer
    for i, record := range records {
        idx := p.indices[i]
        if idx == 0 {
            // skip empty index
            continue
        }
        // get target field
        field := p.ref.Field(idx - 1)
        switch field.Kind() {
        case reflect.String:
            // Normalize text
            if p.normalize >= 0 {
                record = p.normalize.String(record)
            }
            field.SetString(record)
        case reflect.Bool:
            if record == "" {
                field.SetBool(false)
            } else {
                col, err := strconv.ParseBool(record)
                if err != nil {
                    return false, err
                }
                field.SetBool(col)
            }
        case reflect.Int:
            if record == "" {
                field.SetInt(0)
            } else {
                col, err := strconv.ParseInt(record, 10, 0)
                if err != nil {
                    return false, err
                }
                field.SetInt(col)
            }
        default:
            return false, errors.New("Unsupported field type")
        }
    }

    return false, nil
}

上面主要逻辑就是通过反射解析并存储每行数据,并填充结构体的过程。这里仅考虑了string、bool、Int三种类型,当然我们可以扩展支持更多类型。

下面通过main函数进行测试:

import (
    "fmt"
    "os"
    )

type TestRow struct {
  Name   string // 0
  Age    int    // 1
  Gender string // 2
  Active bool   // 3
}

func main() {

  file, _ := os.Open("example.tsv")
  defer file.Close()

  data := TestRow{}
  parser, _ := NewParser(file, &data)

  for {
    eof, err := parser.Next()
    if eof {
      return
    }
    if err != nil {
      panic(err)
    }
    fmt.Println(data)
  }

}

打开文件,定义结构体对象,然后定义解析器,传入文件和结构体对象作为参数。解析结果存储在结构体对象中。

以上就是关于“Golang操作TSV文件的方法是什么”这篇文章的内容,相信大家都有了一定的了解,希望小编分享的内容对大家有帮助,若想了解更多相关的知识内容,请关注亿速云行业资讯频道。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI