b_dataset_file.go 5.7 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220
  1. package internal
  2. import (
  3. "context"
  4. "fmt"
  5. "github.com/gogf/gf/util/guid"
  6. "yx-dataset-server/app/errors"
  7. "yx-dataset-server/app/model"
  8. "yx-dataset-server/app/schema"
  9. "yx-dataset-server/library/ragflow"
  10. )
  11. // NewDatasetFile 创建DatasetFile
  12. func NewDatasetFile(
  13. mDatasetFile model.IDatasetFile,
  14. mDataset model.IDataset,
  15. mTrans model.ITrans,
  16. mUser model.IUser,
  17. ) *DatasetFile {
  18. return &DatasetFile{
  19. DatasetFileModel: mDatasetFile,
  20. datasetModel: mDataset,
  21. transModel: mTrans,
  22. userModel: mUser,
  23. }
  24. }
  25. // DatasetFile 创建DatasetFile对象
  26. type DatasetFile struct {
  27. DatasetFileModel model.IDatasetFile
  28. datasetModel model.IDataset
  29. transModel model.ITrans
  30. userModel model.IUser
  31. }
  32. // Query 查询数据
  33. func (a *DatasetFile) Query(ctx context.Context, params schema.DatasetFileQueryParam, opts ...schema.DatasetFileQueryOptions) (*schema.DatasetFileQueryResult, error) {
  34. result, err := a.DatasetFileModel.Query(ctx, params, opts...)
  35. if err != nil {
  36. return nil, err
  37. }
  38. if len(result.Data) > 0 {
  39. user, err := a.userModel.Query(ctx, schema.UserQueryParam{RoleCode: []string{"11", "12"}})
  40. if err != nil {
  41. return nil, err
  42. }
  43. result.Data.FillCreator(user.Data)
  44. }
  45. return result, nil
  46. }
  47. // Get 查询指定数据
  48. func (a *DatasetFile) Get(ctx context.Context, recordID string, opts ...schema.DatasetFileQueryOptions) (*schema.DatasetFile, error) {
  49. item, err := a.DatasetFileModel.Get(ctx, recordID, opts...)
  50. if err != nil {
  51. return nil, err
  52. } else if item == nil {
  53. return nil, errors.ErrNotFound
  54. }
  55. return item, nil
  56. }
  57. func (a *DatasetFile) getUpdate(ctx context.Context, recordID string) (*schema.DatasetFile, error) {
  58. return a.Get(ctx, recordID)
  59. }
  60. // Create 创建数据
  61. func (a *DatasetFile) Create(ctx context.Context, item schema.DatasetFile) error {
  62. item.RecordID = guid.S()
  63. err := ExecTrans(ctx, a.transModel, func(ctx context.Context) error {
  64. dataset, err := a.datasetModel.Get(ctx, item.DatasetId)
  65. if err != nil {
  66. return err
  67. }
  68. err = a.DatasetFileModel.Create(ctx, item)
  69. if err != nil {
  70. return err
  71. }
  72. dataset.FileCount += 1
  73. err = a.datasetModel.Update(ctx, dataset.RecordID, *dataset)
  74. if err != nil {
  75. return err
  76. }
  77. fileInfo := ragflow.FileInfo{
  78. FileName: item.Name,
  79. Url: fmt.Sprintf("%s%s", "https://app.yongxulvjian.com", item.Url),
  80. }
  81. req := ragflow.UploadFileReq{
  82. File: []*ragflow.FileInfo{&fileInfo},
  83. }
  84. file, err := ragflow.GetHttpClient().UploadDocument(ctx, dataset.RagDataId, req)
  85. if err != nil {
  86. return errors.New(fmt.Sprintf("文件上传失败:%s", err.Error()))
  87. }
  88. //go func() {
  89. // _, err = ragflow.GetHttpClient().ParseDocuments(ctx, dataset.RagDataId, []string{file.Data[0].ID})
  90. // if err != nil {
  91. // glog.Errorf(ctx, "文件解析失败:%s", err.Error())
  92. // }
  93. //}()
  94. item.RagFileId = file.Data[0].ID
  95. return a.DatasetFileModel.Update(ctx, item.RecordID, item)
  96. })
  97. return err
  98. }
  99. // BatchCreate 批量创建数据
  100. func (a *DatasetFile) BatchCreate(ctx context.Context, files schema.DatasetFiles) error {
  101. if len(files) == 0 {
  102. return errors.New("文件不能为空")
  103. }
  104. for _, v := range files {
  105. err := a.Create(ctx, *v)
  106. if err != nil {
  107. return err
  108. }
  109. }
  110. return nil
  111. }
  112. // Update 更新数据
  113. func (a *DatasetFile) Update(ctx context.Context, recordID string, item schema.DatasetFile) error {
  114. oldItem, err := a.DatasetFileModel.Get(ctx, recordID)
  115. if err != nil {
  116. return err
  117. } else if oldItem == nil {
  118. return errors.ErrNotFound
  119. }
  120. return a.DatasetFileModel.Update(ctx, recordID, item)
  121. }
  122. // Delete 删除数据
  123. func (a *DatasetFile) Delete(ctx context.Context, recordID string) error {
  124. oldItem, err := a.DatasetFileModel.Get(ctx, recordID)
  125. if err != nil {
  126. return err
  127. } else if oldItem == nil {
  128. return errors.ErrNotFound
  129. }
  130. dataset, err := a.datasetModel.Get(ctx, oldItem.DatasetId)
  131. if err != nil {
  132. return err
  133. }
  134. if dataset == nil || dataset.RagDataId == "" {
  135. return errors.New("知识库不存在")
  136. }
  137. err = ExecTrans(ctx, a.transModel, func(ctx context.Context) error {
  138. dataset, err := a.datasetModel.Get(ctx, oldItem.DatasetId)
  139. if err != nil {
  140. return err
  141. }
  142. dataset.FileCount -= 1
  143. err = a.datasetModel.Update(ctx, dataset.RecordID, *dataset)
  144. if err != nil {
  145. return err
  146. }
  147. _, err = ragflow.GetHttpClient().DeleteDocuments(ctx, dataset.RagDataId, []string{oldItem.RagFileId})
  148. if err != nil {
  149. return err
  150. }
  151. return a.DatasetFileModel.Delete(ctx, recordID)
  152. })
  153. return err
  154. }
  155. // UpdateStatus 更新状态
  156. func (a *DatasetFile) UpdateStatus(ctx context.Context, recordID string, status int) error {
  157. oldItem, err := a.DatasetFileModel.Get(ctx, recordID)
  158. if err != nil {
  159. return err
  160. } else if oldItem == nil {
  161. return errors.ErrNotFound
  162. }
  163. return a.DatasetFileModel.UpdateStatus(ctx, recordID, status)
  164. }
  165. // UpdateEnabled 更新启用状态
  166. func (a *DatasetFile) UpdateEnabled(ctx context.Context, recordID string, status bool) error {
  167. oldItem, err := a.DatasetFileModel.Get(ctx, recordID)
  168. if err != nil {
  169. return err
  170. } else if oldItem == nil {
  171. return errors.ErrNotFound
  172. }
  173. return a.DatasetFileModel.UpdateEnabled(ctx, recordID, status)
  174. }
  175. // BatchDelete 批量删除
  176. func (a *DatasetFile) BatchDelete(ctx context.Context, fileIDs []string) error {
  177. if len(fileIDs) == 0 {
  178. return errors.New("文件不能为空")
  179. }
  180. file, err := a.DatasetFileModel.Query(ctx, schema.DatasetFileQueryParam{RecordIDs: fileIDs})
  181. if err != nil {
  182. return err
  183. }
  184. if len(file.Data) == 0 {
  185. return nil
  186. }
  187. dataset, err := a.datasetModel.Get(ctx, file.Data[0].DatasetId)
  188. if err != nil {
  189. return err
  190. }
  191. _, err = ragflow.GetHttpClient().DeleteDocuments(ctx, dataset.RagDataId, file.Data.ToRagFileIds())
  192. if err != nil {
  193. return err
  194. }
  195. return a.DatasetFileModel.BatchDelete(ctx, fileIDs)
  196. }